本文介绍了如何基于RAG技术构建To B智能体（Agent）应用，以优化CRM系统中的客户筛选操作。通过意图识别、任务规划、动作执行等步骤，结合RAG的检索增强生成能力，实现用户只需一句话描述筛选需求，Agent即解析执行，将四步操作简化为一步。文章还探讨了混合检索策略、参数判断和二次清洗等关键技术细节，展示了智能体落地的实际效果及其在多个业务场景的应用潜力，强调了RAG在弥补大模型局限性和提升用户体验方面的关键作用。
RAG在to B领域一般应用在知识库问答，智能客服等场景，大概流程是：把知识内容进行分块，建立索引后存储于向量数据库中，通过相似度检索的方式，召回与提问匹配度较高的知识片段后输入给大模型，再让大模型基于提问进行针对性的回答。
RAG+大模型构建的机器人相比于传统机器人，有更强的语义理解能力与生成组织能力，在“解决问题”层面上整体表现更加“拟人化”。
除了以上两个场景外，RAG在to B软件领域中仍存在很多值得探索的应用场景。
本篇文章，计划通过笔者在产品工作中落地的一个项目跟大家分享如何基于RAG构建一款to B智能体（Agent）应用。
1、背景
在CRM系统中，“筛选”是一个极其高频的操作，拿“筛选客户”为例子，以下是该操作一天的活跃轨迹量。
▲“筛选客户”活跃轨迹
作为一款CRM（客户关系管理）系统，需要存储的客户信息十分的多，比如：
① 基础信息：客户名称、标签、来源等
② 工商信息：行业、经营范围、公司规模等
③ 跟进信息：通话录音、聊天记录、拜访记录、跟进总结等
④ 订单信息：产品详情、成交数据等
⑤ 其余信息：报价记录、合同收款等
为了支持用户能够灵活筛选出客户，并展开针对性的管理跟进，以往做法是：把客户信息维度拆解出不同的过滤条件供用户进行筛选操作。
举个例子：“筛选本月从百度来源创建但至今仍没联系过的客户”，操作流程大致如下：
（1）客户列表点击【添加过滤条件】，从数百个条件中找到“创建客户时间”、“最后联系时间”、“来源”三个的过滤条件。
▲添加过滤条件
（2）添加条件后，选择条件对应的逻辑关系，这里创建客户时间选择“之间”；最后联系时间选择“为空”；来源选择为“属于”。
▲选择条件关系
（3）确定每个过滤条件的条件参数，这里创建时间选择为“本月”；来源选择与“百度”有关的所有来源。
▲确定条件参数
（4）点击【过滤】，执行筛选操作。
看似简单的四步操作，却存在不少的问题：
- 用户虽然知道自己需要什么，却不知道怎样组合过滤条件。
- 条件逻辑太复杂，不好理解。
- 条件参数太多，每一个条件都要手动选择十分耗时。
虽然团队后期也推出了“基础过滤”模式，有效减少了第二步的操作（条件只有“包含”关系）
▲基础过滤模式
但其余的操作仍然给用户造成不少的操作负担，毕竟让用户在短时间内把筛选需求转化成过滤条件，并搭配形成条件组合是一件相当困难的事情。
2、智能体（Agent）的框架设计
那么，是否可以基于大模型强大的语义理解能力，让用户更便捷查询到客户呢?
比方说：用户只需要把筛选需求描述清楚，至于“查找、组合过滤条件”这些重复且繁琐的操作步骤交给大模型来处理。
经过了可行性分析后，团队立项了**【视图助手】** Agent项目。
首先，根据对上文的筛选操作进行提炼，“筛选客户”步骤基本是：
“需求识别” -> “条件检索与选择” ->“选择条件关系” -> “确定条件参数” -> “执行筛选”
基于提炼的这个基本步骤，可以抽象出Agent的主要框架，如下图所示：
▲视图助手的Agent框架
意图识别
根据用户的提问判断当前场景是否为客户筛选，是否需要进入到Agent的逻辑。
任务规划（Planning）
任务规划分为了3个主要子任务，分别是：
- 条件提炼：让大模型识别当前用户的提问和提供的条件列表后，从条件列表中提炼出与提问相匹配的条件信息。
- 条件组装：获取到条件相关参数后，组装条件组，并生成调用筛选API接口所需的入参结构，如：JSON结构。
- 参数判断：判断调用筛选API接口所需的条件参数是否有效，如果无效，需要向用户“反问”获取信息。
动作执行（Tools+Action）
基于上一步确定的条件组合以及参数，调用客户筛选API，执行筛选操作。
简而言之，【视图助手】所需要实现出来的效果是：用户一句话描述筛选需求，Agent应用解析出过滤条件后执行筛选，从而把原本的四步操作缩短为一步。
3、基于RAG的智能体（Agent）
【视图助手】初期的实现思路是：把全量过滤条件罗列在提示词（Prompt）中，让大模型基于用户的提问从Prompt中匹配对应的条件，并结构化返回。业务方解析大模型返回的内容后，与过滤条件进行匹配并执行筛选操作。
▲初期实现思路
但很快就发现了问题，只是简单地把数百个条件名称罗列在Prompt中，不涉及到条件参数的描述。当遇到提问涉及到语义接近的词汇或者需要特定业务含义参数匹配时，大模型会出现幻觉。
打个比方说：“关系一般的新入库客户”。
从业务层面，希望大模型返回的是：
标签="关系一般"客户进展="新入库"但由于大模型并不理解“标签”过滤条件具体是指什么，有什么参数；“客户进展”也同理。导致大模型只能按照自己的理解进行匹配，并返回参数。
结果可想而知，返回的条件参数无法映射至业务系统又或者多识别了无效条件。
▲初期效果
后来考虑过，通过长文本（128K）的方式，把条件名称及参数都存储于Prompt中，让大模型自我学习，并做精准匹配。但出于响应时长以及Token消耗成本的考虑，没有采取这种方式。
最终，我们确定通过RAG（检索增强生成）技术解决以上所遇到的问题。流程如下：
建立索引阶段
条件检索区别于知识库问答，并不需要复杂的知识分块规则，一般以单个过滤条件为最小单位进行切分。但直接把条件名称进行向量化存储，会导致相似检索时，产生一定的近似误差从而影响检索准确度。
因此，需要把过滤条件的描述以及具体参数一同向量化建立索引。
检索阶段
通常，RAG检索主要基于“向量检索”，它计算查询与索引数据之间的语义相似度。大概流程是：当用户提问时，问题将通过和过滤条件相同的嵌入模型和转换规则转化成查询向量，与条件向量进行匹配，并召回相似度分值最高的指定条件个数。
由于筛选场景中，用户未必会完整描述需求，更有甚者只有一个关键词或者含糊词组。这个场景下完全依赖于向量检索，会导致用户提问和条件索引不能很好的匹配时，检索质量无法达到预期效果。
因此方案中，采用了“混合检索”的方式，利用“关键词检索”作为补充，对两种检索方式召回的结果经过精排，最终筛选出满足需要的条件。
▲混合检索
生成阶段
在第二步中，召回与用户提问相似度最高的10个过滤条件，把条件名称及参数+用户提问组合成Prompt后，输入给大模型进行处理。要求大模型从用户提问中提取出匹配的过滤条件，并遵循指定的格式进行返回。
为了确保大模型返回的结果可以与业务系统中的条件参数进行匹配，还需要对大模型返回的内容进行二次清洗处理，比方说：通过模糊检索的方式校验参数的有效性。
执行筛选阶段
确保提问中存在有效参数后，再进行如：权限范围、条件查询最大值等逻辑校验。校验无误后，调用客户筛选的API接口，执行筛选操作。
整体方案流程如下图：
▲整体方案示意图
4、Agent实际落地效果
上文只是对【视图助手】主体流程的一个简单分享，落地的过程中仍然存在很多的问题需要逐一克服，比如：为了降低Agent的使用门槛，需要对用户每次的筛选轨迹进行埋点，提炼筛选参数后进行短期存储（Memory），下次使用时再通过“规则算法+大模型”的方式生成推荐提问。
以下是【视图助手】最终呈现的效果：
（1）客户列表新增“AI过滤”功能，当用户激活输入框时，系统会提供3个推荐提问。
▲视图助手演示1
（2）用户只需要在输入框填写筛选需求，Agent应用将会从提问中提炼出过滤条件及参数，并自动组成条件组执行筛选操作。
▲视图助手演示2
5、结语
【视图助手】应用并不局限于筛选客户场景，类似于线索、商机、订单等业务对象的筛选场景均可以接入。可见，RAG技术在基于大模型的Agent构建过程中，主要起到“工具”的作用，能够有效弥补大模型如：知识局限性、幻觉、时效性等问题。
在to B软件领域中，智能体（Agent）方向还有很多的场景值得我们去探索，但一开始可以尝试从优化用户以往重复且繁琐的产品交互作为切入点。
那么如何学习大模型 AI ？
对于刚入门大模型的小白，或是想转型/进阶的程序员来说，最头疼的就是找不到系统、全面的学习资源，要么零散不成体系，要么收费高昂，白白浪费时间走弯路。今天就给大家精心整理了一份全面且免费的AI大模型学习资源包，覆盖从入门到实战、从理论到面试的全流程，所有资料均已整理完毕，免费分享给各位！
核心包含：AI大模型全套系统化学习路线图（小白可直接照做）、精品学习书籍+电子文档、干货视频教程、可直接上手的实战项目+源码、2026大厂面试真题题库，一站式解决你的学习痛点，不用再到处搜集拼凑！
👇👇扫码免费领取全部内容👇👇
1、大模型系统化学习路线
学习大模型，方向比努力更重要！很多小白入门就陷入“盲目看视频、乱刷资料”的误区，最后越学越懵。这里给大家整理的这份学习路线，是结合2026年大模型行业趋势和新手学习规律设计的，最科学、最系统，从零基础到精通，每一步都有明确指引，帮你节省80%的无效学习时间，少走弯路、高效进阶。
2、大模型学习书籍&文档
理论是实战的根基，尤其是对于程序员来说，想要真正吃透大模型原理，离不开优质的书籍和文档支撑。本次整理的书籍和电子文档，均由大模型领域顶尖专家、大厂技术大咖撰写，涵盖基础入门、核心原理、进阶技巧等内容，语言通俗易懂，既有理论深度，又贴合实战场景，小白能看懂，程序员能进阶，为后续实战和面试打下坚实基础。
3、AI大模型最新行业报告
无论是小白了解行业、规划学习方向，还是程序员转型、拓展业务边界，都需要紧跟行业趋势。本次整理的2026最新大模型行业报告，针对互联网、金融、医疗、工业等多个主流行业，系统调研了大模型的应用现状、发展趋势、现存问题及潜在机会，帮你清晰了解哪些行业更适合大模型落地，哪些技术方向值得重点深耕，避免盲目学习，精准对接行业需求。值得一提的是，报告还包含了多模态、AI Agent等前沿方向的发展分析，助力大家把握技术风口。
4、大模型项目实战&配套源码
对于程序员和想落地能力的小白来说，“光说不练假把式”，只有动手实战，才能真正巩固所学知识，将理论转化为实际能力。本次整理的实战项目，涵盖基础应用、进阶开发、多场景落地等类型，每个项目都附带完整源码和详细教程，从简单的ChatPDF搭建，到复杂的RAG系统开发、大模型部署，难度由浅入深，小白可逐步上手，程序员可直接参考优化，既能练手提升技术，又能丰富简历，为求职和职业发展加分。
5、大模型大厂面试真题
2026年大模型面试已从单纯考察原理，转向侧重技术落地和业务结合的综合考察，很多程序员和新手因为缺乏针对性准备，明明技术不错，却在面试中失利。为此，我精心整理了各大厂最新大模型面试真题题库，涵盖基础原理、Prompt工程、RAG系统、模型微调、部署优化等核心考点，不仅有真题，还附带详细解题思路和行业踩坑经验，帮你精准把握面试重点，提前做好准备，面试时从容应对、游刃有余。
6、四阶段精细化学习规划（附时间节点，可直接照做）
结合上述资源，给大家整理了一份可直接落地的四阶段学习规划，总时长约2个月，小白可循序渐进，程序员可根据自身基础调整节奏，高效掌握大模型核心能力，快速实现从“入门”到“能落地、能面试”的跨越。
第一阶段（10天）：初阶应用
该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。
- 大模型 AI 能干什么？
- 大模型是怎样获得「智能」的？
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例：向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段（30天）：高阶应用
该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示（Embeddings）
- 向量数据库与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- …
第三阶段（30天）：模型训练
恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。
到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2：手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
第四阶段（20天）：商业闭环
对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。
硬件选型
带你了解全球大模型
使用国产大模型服务
搭建 OpenAI 代理
热身：基于阿里云 PAI 部署 Stable Diffusion
在本地计算机运行大模型
大模型的私有化部署
基于 vLLM 部署大模型
案例：如何优雅地在阿里云私有部署开源大模型
部署一套开源 LLM 项目
内容安全
互联网信息服务算法备案
…
👇👇扫码免费领取全部内容👇👇
3、这些资料真的有用吗？
这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理，现任上海殷泊信息科技CEO，其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证，服务航天科工、国家电网等1000+企业，以第一作者在IEEE Transactions发表论文50+篇，获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。
资料内容涵盖了从入门到进阶的各类视频教程和实战项目，无论你是小白还是有些技术基础的技术人员，这份资料都绝对能帮助你提升薪资待遇，转行大模型岗位。
这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
前端构建优化：tree-shaking与sideEffects全攻略)
