FastGPT 实战指南:3 步搭好一个知识库驱动的问答机器人
【免费下载链接】FastGPTFastGPT is a knowledge-based platform built on the LLMs, offers a comprehensive suite of out-of-the-box capabilities such as data processing, RAG retrieval, and visual AI workflow orchestration, letting you easily develop and deploy complex question-answering systems without the need for extensive setup or configuration.项目地址: https://gitcode.com/GitHub_Trending/fa/FastGPT
客服每天重复回答同一批问题,新人入职先花一周翻文档——这不是人手问题,是知识流通问题。FastGPT 是一个基于 LLM 的知识库问答平台,把公司文档接进模型,开箱即用混合检索、RAG 召回和可视化工作流编排。本文按 3 个动手步骤走一遍:部署、建库、编排流程。
首次启动:把 FastGPT 跑起来
拉取配置与启动容器
FastGPT 的官方部署方式是 Docker。克隆仓库后,先按仓库 README 引导拉取 docker compose 配置文件(过程会引导你填写模型、数据库等参数),然后启动:
git clone https://gitcode.com/GitHub_Trending/fa/FastGPT cd FastGPT docker compose up -d配置模板可参考 deploy/dev/docker-compose.yml。容器全部起来后,浏览器访问http://localhost:3000,默认账号 root,密码 1234。注意它不是一个单体容器:Mongo 存业务数据,PgVector 存向量,fastgpt 主容器提供界面和 API,缺一个都会启动失败。
第一次登录:先接模型
进入工作台后第一件事是接模型。FastGPT 支持直接对接 OpenAI 兼容接口,也支持本地模型或模型聚合服务。模型不必选最强的,能调通 API 即可。手头没有模型额度时,先接一个本地小模型把流程跑通,再换大模型做效果对比,这样你分清哪些问题是流程造成的,哪些是模型能力造成的。
建知识库:让 AI 用你的资料回答
三种导入方式,按材料类型选
建库前先把资料备齐。知识库支持三种导入方式:
- 直接分段:PDF、Word、HTML 等文档扔进去自动切块,适合长篇说明类资料;
- QA 拆分:把文档整理成问答对,适合 FAQ、政策条款这类"一问一答"的材料;
- URL 读取:给一批网页链接,批量抓取入库,适合产品文档站。
文件列表里还能给每条资料打标签,检索时按标签过滤——知识库混装多条业务线的资料时,这一步能省掉大量误召回。
混合检索与重排:找到和找准是两回事
为什么要建库?裸模型对你公司的内部知识一无所知,只能编。FastGPT 的做法是:资料先切块并转成向量,提问时用"向量相似度 + 关键词"混合检索召回候选块,再由重排模型打分,只把最相关的几块塞进模型上下文。
知识库的分段策略、检索参数、重排配置都能调,文档在 document/content/guide/dataset/。我的建议:上线前先在"检索测试"里跑几个代表性问题,确认召回的前几名是正确切块。检索召回错了,提示词写得再好也救不回来。
工作流编排:把单点问答变成自动流程
四类节点先上手
知识库解决"答得上",工作流画布解决"办得成"。左侧组件库分文本输出、功能调用、工具调用、外部调用等类别,最常用的是这四个起点:
- 流程开始:接收用户问题和系统变量;
- AI 对话:核心节点,配提示词、挂知识库;
- 工具调用:调 HTTP 接口或插件,比如查订单状态;
- 特殊回复:识别到跑题内容时直接返回固定话术,不走模型,省 token。
画布后端的执行逻辑在 packages/service/core/,某个节点行为不符合预期时,可以到这里定位对应的执行函数。
调试预览与评测:发布前过一遍链路
画布右上角的预览面板可以像真实用户一样对话,每次模型调用、检索动作都留痕。回归测试则用"应用评测":准备一组问题和标准答案,指定一个 LLM 当裁判,批量跑完给每条回答打分。
评测是"能用"和"敢上线"的分界线。跳过它的团队通常会遇到同一个坑:预览时修好一个问题就发布,结果另外三类问题悄悄回归。
常见坑:机器人答非所问时查哪里 🔧
端口占用:部署期最常见的报错
docker compose up报bind: address already in use,就是 3000 端口被占。改 compose 里的端口映射,或先停掉占用端口的旧服务,别反复重启容器。
引用了却答错:先查分段,再查重排
症状是引用面板里明明有正确文档,回答却偏了。十有八九是分段问题:切块太大,模型抓错了段落;切块太小,上下文断裂。修复顺序是:先调分段方式,再调重排召回条数,最后才动提示词。反着来是最常见的绕路。
对外分享:把权限风险关进分享链接
机器人稳定后要给外部用户用。在应用详情页从 URL 里拿到 appid,即可生成免登录分享链接,或嵌进自己的网站。
生成链接时可以控制"引用内容""查看来源"开关,设置过期时间和 QPM 限流。一个常见失误是对客户开启来源展示——内部文档片段会跟着答案一起暴露,分享前先把这两个开关过一遍。
今天先做这一步
别想一次搭全。最小可行路径:部署服务 → 导入 10 份高频文档 → 写一段三句话的提示词 → 用 5 个代表性问题测试。四步全通,机器人就可以内部试用了;工作流节点和评测集,等真实用户的问题攒出来再补。FastGPT 的价值在于"知识接入"和"流程自动化"在同一平台完成,先让知识通起来,其他都是加速项。
【免费下载链接】FastGPTFastGPT is a knowledge-based platform built on the LLMs, offers a comprehensive suite of out-of-the-box capabilities such as data processing, RAG retrieval, and visual AI workflow orchestration, letting you easily develop and deploy complex question-answering systems without the need for extensive setup or configuration.项目地址: https://gitcode.com/GitHub_Trending/fa/FastGPT
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考