人工智能实战:多轮对话记忆怎么做才不乱?短期记忆、长期记忆、摘要压缩与隐私边界设计
一、问题场景:用户追问“那这个呢”,AI 却忘了前文
很多大模型应用上线后,单轮问答效果还不错。
但一到多轮对话就开始出问题。
用户第一轮问:
销售去二线城市拜访客户住宿费多少?AI 回答:
450元。用户第二轮追问:
那一线城市呢?如果系统没有正确管理上下文,AI 可能不知道:
“那”指的是销售客户拜访场景结果回答成普通员工一线城市标准:
500元而正确答案应该是:
650元这类问题不是模型不会理解,而是系统没有把必要上下文保留下来。
多轮对话常见问题:
1. 上下文太短,模型忘记前文 2.