摘要
大型语言模型（LLMs）以其卓越的通用知识和推理能力重塑了 AI 领域，但它们在处理特定领域或用户的专有词汇（即“热词”）时，往往表现出“选择性失忆”。传统的 RAG 或 Prompting 方案在实时性和准确性上存在瓶颈。阿里的《Hotword Model for Large Models》论文提出了一种“神经插件”方案，它能够在不修改基座模型权重的前提下，动态、精准地将热词能力注入到生成过程中。本文将从架构设计、训练范式到推理逻辑，全方位拆解这一技术的内核，并探讨其在工业级应用中的价值。
一、核心问题：大模型的“专有名词”困境
在深入技术细节之前，我们必须理解当前大模型在处理“热词”时面临的根本性挑战。无论是语音识别（ASR）、机器翻译还是代码生成，以下问题普遍存在：
Fine-tuning 方案分析：
- 成本高昂：为每个用户或每个特定领域的词汇表重新微调一个数十亿参数的模型，计算成本和时间成本是无法接受的。
- 灾难性遗忘：微调可能损害模型原有的通用能力，使其在专有领域变强的同时，在其他方面“变傻”。
- 静态更新：一旦微调完成，模型就固化了。如果热词列表需要频繁更新（例如，会议参与者名单），微调方案完全不可行。
Prompting方案分析：
)
