01***.***
Model、Scaffolding和Harness
Agent的三层骨架
先把三个最容易搞混的概念区分开:
Model,就是那个裸的大语言模型。Claude、GPT、Qwen、DeepSeek、Kimi,文本进去,文本出来。没有记忆,没有循环,不会主动做任何事。它可以“表达”调用工具的意图,但真正去执行,需要别人帮它。
Scaffolding,是模型所“看到”的一切。系统提示词怎么写、工具怎么描述、输出按什么格式解析、跨步骤记住什么,这些构成模型眼里的世界,它塑造了模型的行为边界,但本身不负责运行。
Harness,是真正让模型“跑起来”的东西。调用模型、处理它返回的工具请求、判断什么时候停止,这个循环的引擎就是Harness。
对于Scaffolding和Harness的区别,文章给了一句极其简洁的区分:Scaffolding是模型可感知的部分(提示词、工具定义、输出格式),Harness是驱动模型运行的部分(调用循环、工具执行、停止判断)。
所以,精确定义下,Agent由三层构成:Agent=Model+Scaffolding+Harness。
不过在社区日常讨论中,有一个更简化的说法:Agent=Model+Harness。Claude Code官方自己也说“Claude Code is the agentic harness around Claude”,这里的Harness被当成了“除了模型以外的一切”来用。
两位作者也坦率表示,日常聊天这么讲无伤大雅。但一旦进入训练,把Scaffolding和Harness拆开审视就变得至关重要,训练时,Scaffolding决定了模型学到什么;推理时,Harness决定了模型怎么跑。
Agent这个词本身源自强化学习,在RL里,Agent就是一个函数:接收观察,返回动作。环境接收动作去执行,返还观察结果,循环继续。这个循环,就是今天所有LLM Agent的底层逻辑。
用编程Agent当例子最直观:系统提示词和工具描述是Scaffolding,真正完成调用模型、执行git diff、运行测试、判断何时停止那个循环的,是Harness。训练的时候,Harness还要并行跑成百上千个这样的循环,把结果喂回去更新模型权重。
Sergio和Aritra特别点出了一件事:当人们聊Claude Code、Codex、Cursor这些产品时,他们说的是“一个特定的Harness+一个特定的模型”,两者被一起设计、一起优化。
两个产品就算底层用的是同一个模型,体感可以完全不同,因为它们的Harness做了不同选择。反过来,同一个Harness换一个更强的模型,体验也会变。
模型、Harness、产品,三个东西,不是一回事。
在这个框架之上,还有一个更高的概念叫Orchestrator。它是把多个Agent当作单元来调度,每个Agent跑自己的Harness,这对应到现在很火的多Agent协作模式。
02***.***
Context Engineering决定Agent看什么
Policy定义Agent的行为
Context Engineering(上下文工程)的核心问题是,Agent每一步看到什么。除了写系统提示词,还要动态管理整个上下文窗口:系统提示词、工具描述、对话历史、检索到的知识,每一步都可能不一样。
它和Prompt Engineering的关键区别在于:不是一次性写好就完了。随着Agent运行,前几轮的输出会影响在后续调用中放入什么,Harness需要在整个运行过程中主动管理上下文,包括删什么、留什么、从哪里检索补充,不是写个prompt而已。
对于上下文工程,训练和推理的出错代价天差地别,训练时搞错上下文,模型学到错误的东西,代价是重新训练,推理时搞错,可以修改提示词然后重新开始即可。
记忆体系也被纳入了上下文工程的框架。短期记忆是单次运行中留在上下文窗口里的内容:对话历史、工具返回结果、之前的推理链。长期记忆跨会话持久化,存在外部,需要时检索回来注入上下文。两者由Harness在同一套上下文管理逻辑中统一调度。
Policy是另一个容易被当成Agent同义词的概念,文章明确做了切割,Policy是行为概率分布,定义了Agent采取每种动作的概率。
Policy部分受模型权重影响,但最终行为也取决于Scaffolding和Harness,同一个模型,换一套提示词、工具或执行循环,行为可以截然不同,Policy不是Agent,Policy定义行为。
03***.***
Tool、Skills、Sub-agent层层递进
以及训练Agent的四个关键词
Agent的能力体系是按层级递进的,这三个词虽然容易被混用,但代表了三个层级。
Tool Use是最底层。诸如API、代码解释器、数据库、网络搜索、文件系统等等,Agent通过这些接口触及外部世界。模型只会以结构化的格式表达调用工具的意图,API将其作为一等对象呈现,Harness接收调用并路由到正确的位置,返回结果进上下文,然后继续循环。
Skills高一层。如果说Tool是最原始的一个动作,Skill就是一套可行的完整方案,比如研究这个bug、写修复方案等。Skill可以跨Agent移植,按需加载。
Sub-agent是最高层。很多人把它当高级工具来用,但文章给了明确区分:Sub-agent有自己单独的模型和Scaffold,能独立推理、自己调工具,甚至能再调用新的Sub-agent,这是它和Tool以及Skill的本质差异。
文章也坦率承认:Tool、Skills、Sub-agent之间的边界,在不同框架里不太一样。
如果切换到训练视角,还有四个概念是训练Agent过程的关键所在:
RL Environment,指Agent在训练时可以与之交互的任何系统。它的工作方式是:Agent向它发出一个动作(比如执行一条命令),它执行这个动作、更新自身状态,然后把新的状态信息返回给Agent。
一个文件系统就是最直观的例子:Agent发出touch foo.txt这个动作,环境执行它、创建了文件,然后把更新后的文件列表作为反馈返回。
Trainer,负责让Agent的能力逐步提升。它做的事情分三步:第一,让Agent反复执行完整任务,跑很多轮;第二,对每一轮的结果打分;第三,用这些分数来更新Agent内部模型的权重参数,让下一次执行更接近正确答案。整个过程是自动循环的。
Rollout,指Agent完成一次完整任务的全程记录。里面包含三个部分:Agent在每一步看到了什么信息、它据此做出了什么动作、每一步得到了多少分。这份记录也被称为trajectory或trace,本质上就是算法通过分析大量这样的记录,找到让分数变高的行为模式。
Reward,一个数值分数,用来告诉训练算法“这次做得怎么样”。它有好几种形式。
可验证奖励:有标准答案,比如代码测试跑通了就是1,跑不通就是0。
学习型奖励:没有标准答案,需要人来打分或让另一个LLM来评判。
稀疏奖励:整个任务做完才给一个总分。
密集奖励:任务过程中每一步都给一个分数。
最后
对于正在迷茫择业、想转行提升,或是刚入门的程序员、编程小白来说,有一个问题几乎人人都在问:未来10年,什么领域的职业发展潜力最大?
答案只有一个:人工智能(尤其是大模型方向)
当下,人工智能行业正处于爆发式增长期,其中大模型相关岗位更是供不应求,薪资待遇直接拉满——字节跳动作为AI领域的头部玩家,给硕士毕业的优质AI人才(含大模型相关方向)开出的月基础工资高达5万—6万元;即便是非“人才计划”的普通应聘者,月基础工资也能稳定在4万元左右。
再看阿里、腾讯两大互联网大厂,非“人才计划”的AI相关岗位应聘者,月基础工资也约有3万元,远超其他行业同资历岗位的薪资水平,对于程序员、小白来说,无疑是绝佳的转型和提升赛道。
如果你还不知道从何开始,我自己整理一套全网最全最细的大模型零基础教程,我也是一路自学走过来的,很清楚小白前期学习的痛楚,你要是没有方向还没有好的资源,根本学不到东西!
下面是我整理的大模型学习资源,希望能帮到你。
👇👇扫码免费领取全部内容👇👇
最后
1、大模型学习路线
2、从0到进阶大模型学习视频教程
从入门到进阶这里都有,跟着老师学习事半功倍。
3、 入门必看大模型学习书籍&文档.pdf(书面上的技术书籍确实太多了,这些是我精选出来的,还有很多不在图里)
4、AI大模型最新行业报告
2026最新行业报告,针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估,以了解哪些行业更适合引入大模型的技术和应用,以及在哪些方面可以发挥大模型的优势。
5、面试试题/经验
【大厂 AI 岗位面经分享(107 道)】
【AI 大模型面试真题(102 道)】
【LLMs 面试真题(97 道)】
6、大模型项目实战&配套源码
适用人群
四阶段学习规划(共90天,可落地执行)
第一阶段(10天):初阶应用
该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。
- 大模型 AI 能干什么?
- 大模型是怎样获得「智能」的?
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例:向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段(30天):高阶应用
该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示(Embeddings)
- 向量数据库与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- …
第三阶段(30天):模型训练
恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。
到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2:手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
第四阶段(20天):商业闭环
对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。
硬件选型
带你了解全球大模型
使用国产大模型服务
搭建 OpenAI 代理
热身:基于阿里云 PAI 部署 Stable Diffusion
在本地计算机运行大模型
大模型的私有化部署
基于 vLLM 部署大模型
案例:如何优雅地在阿里云私有部署开源大模型
部署一套开源 LLM 项目
内容安全
互联网信息服务算法备案
…
👇👇扫码免费领取全部内容👇👇
3、这些资料真的有用吗?
这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理,现任上海殷泊信息科技CEO,其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证,服务航天科工、国家电网等1000+企业,以第一作者在IEEE Transactions发表论文50+篇,获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。
资料内容涵盖了从入门到进阶的各类视频教程和实战项目,无论你是小白还是有些技术基础的技术人员,这份资料都绝对能帮助你提升薪资待遇,转行大模型岗位。
这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】