主题模式
Are you an LLM? You can read better optimized documentation at /ai/llm/librechat-guide.md for this page in Markdown format
使用 LibreChat 打造全能 AI 私有工作台:多模型聚合、联网搜索与文件分析全功能部署指南
对于重度 AI 用户来说,常常面临一个繁琐的问题:
- 写代码想用 Claude 3.5 Sonnet / DeepSeek-Coder;
- 深度推理逻辑想用 DeepSeek-R1;
- 多模态看图想用 GPT-4o;
- 私密数据又想用本地部署的 Ollama 或 vLLM。
每次在不同的网页和 App 之间来回切换极度割裂。官方 ChatGPT 每月 $20 的订阅费高昂,且存在封号和隐私泄露风险。
LibreChat 是目前开源社区公认最还原、最强大且体验超越官方 ChatGPT Plus 的全能 AI 交互平台。它不仅支持把全球所有大模型聚合在同一个优雅的聊天界面中,还原生支持 PDF 文档解析、代码解释器(Code Interpreter)、免 API Key 的全网实时搜索(SearXNG)、分支对话(Fork)、以及多用户权限与 Token 消耗控制。
本文将带你手把手使用 Docker Compose 搭建一个属于你自己的全功能私有 AI 工作台。
🌟 LibreChat 的五大杀手级特性
- 真正的全模型聚合:原生支持 OpenAI、Anthropic Claude、Google Gemini、DeepSeek、Mistral,以及通过自定义端点无缝接入本地的 Ollama、vLLM 和 FastGPT。
- 代码解释器与沙箱运行:支持直接在浏览器中运行 Python 代码并生成可视化图表。
- 多分支对话树 (Fork / Branching):在对话中随时可以从任意一条回复分叉出新的分支探索不同思路,不破坏原有上下文。
- 智能代理与插件生态:支持接入 Google 搜索、DALL-E 3 作图、Wolfram Alpha 计算等插件。
- Meilisearch 全文高亮搜索:内置毫秒级全文搜索引擎,瞬间从数万条历史对话中定位关键信息。
🛠️ 第一步:环境规划与编写 Docker Compose
推荐将 LibreChat 部署在 Linux VPS 或家庭 NAS 上。
1. 创建部署目录
bash
mkdir -p /docker/librechat/images
mkdir -p /docker/librechat/data-node
mkdir -p /docker/librechat/meili_data
cd /docker/librechat2. 编写 docker-compose.yml
yaml
services:
api:
image: ghcr.io/danny-avila/librechat-dev:latest
container_name: LibreChat
ports:
- '3080:3080'
depends_on:
- mongodb
- meilisearch
environment:
- HOST=0.0.0.0
- PORT=3080
- MONGO_URI=mongodb://mongodb:27017/LibreChat
- MEILI_HOST=http://meilisearch:7700
- MEILI_MASTER_KEY=your_meili_master_key_123456
- DOMAIN_CLIENT=http://localhost:3080
- DOMAIN_SERVER=http://localhost:3080
- JWT_SECRET=your_jwt_secret_token_123456
- JWT_REFRESH_SECRET=your_jwt_refresh_token_123456
- ALLOW_REGISTRATION=true # 首次部署允许注册管理员,部署完成后建议改成 false 关掉公共注册
volumes:
- type: bind
source: ./librechat.yaml
target: /app/librechat.yaml
- ./images:/app/client/public/images
restart: always
mongodb:
image: mongo:latest
container_name: chat-mongodb
volumes:
- ./data-node:/data/db
command: mongod --noauth
restart: always
meilisearch:
image: getmeili/meilisearch:v1.7.3
container_name: chat-meilisearch
environment:
- MEILI_HOST=http://meilisearch:7700
- MEILI_NO_ANALYTICS=true
- MEILI_MASTER_KEY=your_meili_master_key_123456
volumes:
- ./meili_data:/meili_data
restart: always⚙️ 第二步:编写 librechat.yaml 配置文件
LibreChat 的强大之处在于可以通过 librechat.yaml 灵活接入任意自定义大模型渠道。
在 /docker/librechat 目录下新建 librechat.yaml:
yaml
version: 1.1.5
# 自定义端点配置
endpoints:
custom:
# 1. 接入满血版 DeepSeek 官方 API
- name: 'DeepSeek'
apiKey: 'sk-你的DeepSeek官方API_KEY'
baseURL: 'https://api.deepseek.com/v1'
models:
default: ['deepseek-chat', 'deepseek-reasoner']
fetch: false
titleConvo: true
titleModel: 'deepseek-chat'
modelDisplayLabel: 'DeepSeek'
# 2. 接入本地 GPU 部署的 vLLM 推理服务
- name: 'Local-vLLM'
apiKey: 'dummy-key'
baseURL: 'http://host.docker.internal:8000/v1'
models:
default: ['Qwen/Qwen2.5-7B-Instruct']
fetch: false
modelDisplayLabel: 'vLLM (本地算力)'
# 3. 接入本地 Ollama
- name: 'Ollama'
apiKey: 'ollama'
baseURL: 'http://host.docker.internal:11434/v1'
models:
default: ['deepseek-r1:8b', 'llama3.1:8b']
fetch: true
modelDisplayLabel: 'Ollama'🚀 第三步:一键启动与初始化
在 /docker/librechat 目录下执行启动命令:
bash
docker compose up -d等待 1-2 分钟镜像拉取并启动完毕后,在浏览器访问: http://你的服务器IP:3080
- 首次访问:点击页面下方的 “Sign up (注册)”,创建你的第一个超级管理员账户。
- 锁定注册:为了防止服务器被陌生人盗刷 API 额度,注册完自己的账号后,回到
docker-compose.yml将ALLOW_REGISTRATION改为false并执行docker compose up -d重启即可关闭注册通道。
💡 进阶使用技巧
1. 切换模型与思考链展开
在聊天顶部的下拉菜单中,你可以随意在 DeepSeek Reasoner(R1 深度思考)、Claude 3.5 或 本地 vLLM 之间自由切换。提问时,模型输出的推理过程(Thought)会以精美的折叠卡片展示。
2. 移动端 PWA 安装
用手机 Safari / Chrome 打开网页,点击浏览器的“添加到主屏幕”,LibreChat 会立刻变身为一个丝滑独立的 App,支持全屏运行和本地数据持久化。
💬 总结
LibreChat 完美兼顾了颜值、功能性、多模型聚合能力与数据隐私。它是目前个人极客和小型研发团队搭建私有 AI 工作站的最优解。
- 选型横评:还在纠结它与 Open WebUI、Dify 的差异?阅读 LibreChat vs Open WebUI vs Dify 深度对比。
- 反向代理:使用独立域名与自动 SSL 证书?参考 Traefik 反代 Docker 服务指南。
