你有没有想过，把公司内部文档、技术手册、学习笔记全部喂给一个 AI，让它变成一个「什么都知道」的私有知识助手？不用联网、不用担心数据泄露，所有信息都在你自己的服务器上。这就是 RAG（检索增强生成）技术的魅力。而 AnythingLLM 是目前最简单易用的私有知识库搭建方案之一，用 Docker 部署只需要几分钟。
1. AnythingLLM 是什么
AnythingLLM是一个开源的全功能 AI 文档聊天助手。它的核心能力是：把你上传的文档（PDF、Word、TXT、Markdown 等）切分成小段，用向量数据库存储，然后在你提问时自动检索相关内容，结合大语言模型生成回答。
简单来说，它做了三件事：
- 文档处理：把各种格式的文档解析、切分成小块
- 向量存储：把文本块转成向量，存入数据库，方便语义检索
- 智能问答：检索相关文本块，结合 LLM 生成准确的回答
与直接把整本书扔给大模型相比，RAG 方案的优势是不占用上下文窗口、支持海量文档、回答有据可循。
2. 系统要求
| 配置项 | 最低要求 | 推荐配置 |
|---|---|---|
| 内存（RAM） | 2 GB | 4 GB 及以上 |
| 磁盘空间 | 5 GB 可用 | 20 GB 及以上 |
| CPU | 双核 | 四核及以上 |
| 操作系统 | Linux / macOS / Windows | Ubuntu 22.04+ |
| Docker | 20.10+ | 最新稳定版 |
- AnythingLLM 本身对硬件要求不高，但如果你打算在本地运行大模型（而非调用云端 API），则需要额外的 GPU 资源
- 如果使用 OpenAI、DeepSeek 等云端 API，则不需要本地 GPU
- 本文以 Ubuntu 系统 + Docker Compose 为例进行讲解
3. 安装 Docker 和 Docker Compose
如果你还没有安装 Docker，可以参考之前的文章完成安装。安装完成后确认版本：
docker--versiondockercompose version确保docker命令不需要sudo就能执行。如果不行，把当前用户加入 docker 组：
