RAG 发展历程与关键演进
RAG（Retrieval-Augmented Generation）是一种结合检索与生成的混合模型架构，其进化过程可分为几个关键阶段，反映了技术从基础到优化的迭代。
基础架构阶段（2019-2020）
Facebook AI Research（FAIR）团队在2019年提出初始RAG框架，将预训练生成模型（如BART）与外部知识检索（如DPR检索器）结合。核心思想是通过检索相关文档增强生成质量，解决纯生成模型的幻觉问题。
动态检索优化（2021）
引入实时检索机制，支持生成过程中多轮检索。典型代表是RAG-Token模型，允许每个生成步骤动态检索不同文档，提升答案细粒度准确性。同时出现端到端训练方法，联合优化检索器与生成器。
模块化与扩展（2022）
- HyDE：将生成内容作为检索查询的中间表示，提升检索相关性
- FLARE：主动检索机制，仅在模型置信度低时触发检索
- Self-RAG：通过自反思机制动态控制检索时机
效率提升方向（2023至今）
- 小模型适配：如ColBERTv2等高效检索器降低计算成本
- 增量检索：分层检索策略平衡速度与精度
- 多模态扩展：支持图像、表格等非文本检索
当前技术分支图谱
graph LR A[RAG基础架构] --> B[静态单次检索] A --> C[动态多轮检索] B --> D[端到端联合训练] C --> E[主动检索控制] D --> F[HyDE/FLARE] E --> G[Self-RAG] F --> H[多模态RAG] G --> I[小模型优化]核心改进方向
- 检索质量：从稠密检索到混合稀疏/稠密方法
- 生成控制：引入检索触发机制降低计算开销
- 领域适配：针对垂直场景的定制化检索策略
- 实时性：流式检索与生成同步技术
最新进展包括将RAG与LoRA等轻量化技术结合，以及在对话系统中应用的递归检索框架。技术演进持续聚焦检索精度、生成可控性及系统效率的平衡。
