论文:Agent 记住的「经验规则」可能让错误自我复制
印第安纳大学的论文 More Memory, Worse Agents 研究 Agent 的外部记忆设计:除了保存原始轨迹和结果,是否还应长期保存从中归纳出的规则、总结和技能。作者认为错误的抽象会在检索复用中扩散,并塑造新的轨迹、再归纳出重复同样错误的新抽象,称之为「错误复制」。
要点
- 提出 Anti-Persistence 设计:只保存轨迹和结果,按需临时生成针对当前任务的指导,用完即丢
- 由一个参考历史结果的自适应选择器决定是否以及如何生成指导
- 作者报告在多个基准和基座模型上,该设计在对比的记忆方案中留出集总体成功率最高、平均 LLM 调用成本最低;摘要未给出具体数字
- 结论:积累经验和持久保存对经验的解读应作为两个独立的设计选择
为什么值得关注
给 Agent 加「自我总结的经验库」或自动生成技能时,要考虑错误规则被反复强化的风险,可以保留原始记录、定期重建而不是只追加。
来源
### [论文:Agent 记住的「经验规则」可能让错误自我复制]({{URL}})
印第安纳大学的论文 More Memory, Worse Agents 研究 Agent 的外部记忆设计:除了保存原始轨迹和结果,是否还应长期保存从中归纳出的规则、总结和技能。作者认为错误的抽象会在检索复用中扩散,并塑造新的轨迹、再归纳出重复同样错误的新抽象,称之为「错误复制」。
- 提出 Anti-Persistence 设计:只保存轨迹和结果,按需临时生成针对当前任务的指导,用完即丢
- 由一个参考历史结果的自适应选择器决定是否以及如何生成指导
- 作者报告在多个基准和基座模型上,该设计在对比的记忆方案中留出集总体成功率最高、平均 LLM 调用成本最低;摘要未给出具体数字
- 结论:积累经验和持久保存对经验的解读应作为两个独立的设计选择
**为什么值得关注**:给 Agent 加「自我总结的经验库」或自动生成技能时,要考虑错误规则被反复强化的风险,可以保留原始记录、定期重建而不是只追加。
来源:[More Memory, Worse Agents: Error Reproduction and Anti-Persistence in LLM Agents](https://arxiv.org/abs/2610.27406)