news 2026/5/1 6:17:18

RAG搭建个人LLM知识库助手,很多人第一步就走错了...

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
RAG搭建个人LLM知识库助手,很多人第一步就走错了...

基于RAG技术搭建本地知识库问答助手,已经是相当普遍的应用方案了。前一阵我在公司实践过,用我们过往积累的、对业务重要的内部知识构建知识库,开发了一个智能问答Agent,能减少团队一部分的答疑时间。

构建知识库时,我们将内部知识整理成了 MarkDown 格式。至于为什么用MarkDown 格式,我简单总结了几个原因。

首先,一个文件最终要分块Embedding,而 MarkDown 格式天然支持标题分级,便于按章节分块(chunking),保证分块语义的完整性,提高后续内容召回的准确率。

其次,知识库的内容需要让大模型理解,而大模型对 MarkDown 这种结构化的内容理解更好。这也是用 MarkDown 编写 prompt 成为主流的原因。

对我们个人来说,工作、学习中有很多场景,需要搭建个人知识库助手。比如,阅读新论文、阅读技术文档做分享等等。

在这些场景中,我们拿到的原始文档格式大都是 PDF 格式的,比如,下面的这个

我们面临的第一个问题是,如何准确地提取这些内容。

最容易想到的方案是找个 Python 库解析,如:PyPDF2。下面是我解析的结果

明显发现有三个问题,1、所有文本堆在一起没有格式, 2、文本识别不准,多个单词连在一起, 3、图片丢了

这样的内容,如果直接作为 RAG 知识库,准确率会非常差。

幸好,最近发现一个能准确提取PDF内容的工具——Doc2X

可以说是我用过的工具中最准确的了,还是上面那个PDF文档,来看下 Doc2X 识别的结果

左边是原始PDF文档,右边是 Doc2X 提取的 MarkDown 格式文档。有标题结构,内容准确,有配图,可以说两边一模一样。

这样的内容,你才敢放心地导出,去构建RAG知识库。

Doc2X 支持多种格式导出,包括 Markdown、LaTeX、HTML、Word 等。

下面是我导出的 MarkDown 格式文件。

我们平时阅读论文、技术文档,难免遇到大量的表格、数学公式,Doc2X 对这部分做了深度优化,能实现⾼精度的识别与结构化转换。

甚至如果你下载了一些来路不明的文档,比如,里面都是扫描件,根本没办法直接从PDF文件中直接复制文本,Doc2X 依然可以准确提取。

对于我们搞技术的来说,有这么好用的工具,能写程序自动调用才是正道,Doc2X 也提供了开放平台。

有了 API 就能调用接口自动提取PDF内容,然后构建知识库,开发智能体。

不想写代码也没关系,Doc2X 接⼊了 FastGPT、CherryStudio、扣⼦等平台,可以零代码创建智能体。

在扣子上使用 Doc2x 搭建文档阅读Agent,仅仅只需1步,添加 Doc2X 插件,填入开放平台创建的 API Key 即可。

当然,现在很多AI大模型产品也支持上传PDF文件进行问答。但 Doc2X 的优势在于,是专业做文档提取的,准确度更高。

并且不像其他产品上传文件后,解析的结果对我们是黑盒,Doc2X 提取后结果对我们可见,我们可以对结果做干预,生成的内容更可控。

如何学习AI大模型?

如果你对AI大模型入门感兴趣,那么你需要的话可以点击这里大模型重磅福利:入门进阶全套104G学习资源包免费分享!

这份完整版的大模型 AI 学习和面试资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

这是一份大模型从零基础到进阶的学习路线大纲全览,小伙伴们记得点个收藏!


第一阶段:从大模型系统设计入手,讲解大模型的主要方法;

第二阶段:在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;

第三阶段:大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;

第四阶段:大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;

第五阶段:大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;

第六阶段:以SD多模态大模型为主,搭建了文生图小程序案例;

第七阶段:以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。

100套AI大模型商业化落地方案

大模型全套视频教程

200本大模型PDF书籍

👉学会后的收获:👈

• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。

LLM面试题合集

大模型产品经理资源合集

大模型项目实战合集

👉获取方式:
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/4/29 18:36:17

转行大模型产品经理:5大核心能力+6个月学习路线,月薪30K+不是梦_2026年零基础转行大模型产品经理必备

大模型产品经理是未来5年的黄金职业,年薪可达50W-120W。转行需具备技术理解力、数据洞察力、用户需求挖掘、商业化落地能力和跨团队协作能力。零基础学习路线分三阶段:基础夯实(1-2月)、大模型专项突破(2-3月)和项目实战(1-2月)。新人应避免盲目追求算法…

作者头像 李华
网站建设 2026/4/23 6:43:02

大模型知识增强完全指南:RAG与微调的实战对比与选择策略

文章详解了RAG与模型微调两种大模型知识增强方法。RAG通过外部知识库提供资料,解决模型不了解本地知识的问题,回答仅限于知识库内容,适合普通用户;模型微调通过特定数据训练模型,改变内部参数,使其在特定任…

作者头像 李华
网站建设 2026/4/21 2:09:19

强烈安利10个AI论文网站,专科生搞定毕业论文必备!

强烈安利10个AI论文网站,专科生搞定毕业论文必备! AI 工具,让论文写作不再难 对于专科生来说,毕业论文可能是一道难以逾越的门槛。从选题到开题,从写大纲到撰写初稿,每一个环节都充满了挑战。而如今&#x…

作者头像 李华
网站建设 2026/4/20 22:47:23

你的网站SSL证书又要过期了?这个工具能让你永久告别焦虑

01 引言 在当今HTTPS加密成为网站标配的时代,SSL证书的有效管理已成为网站运维中不容忽视的环节。手动追踪数十甚至上百个域名的证书状态不仅耗时耗力,而且极易因疏忽导致证书过期,引发网站访问故障和安全风险。Domain Admin作为一款开源的SS…

作者头像 李华
网站建设 2026/4/25 12:14:03

收藏必学:大模型智能体设计:5大模式+5层次+3配方,从入门到精通

设计模式 vs. 应用层次 设计模式:教智能体“怎么做事”的方法学(如先审稿再改、先分解再执行、边想边做等)。原文将常见的 5 种模式归纳为:反思、工具使用、ReAct、规划、多智能体。应用层次:衡量“能做到哪一步”的能…

作者头像 李华