论文 了解即可 10月23日 周五 #agent#context-engineering#research

论文:Agent 记住的「经验规则」可能让错误自我复制

印第安纳大学的论文 More Memory, Worse Agents 研究 Agent 的外部记忆设计:除了保存原始轨迹和结果,是否还应长期保存从中归纳出的规则、总结和技能。作者认为错误的抽象会在检索复用中扩散,并塑造新的轨迹、再归纳出重复同样错误的新抽象,称之为「错误复制」。

要点

  • 提出 Anti-Persistence 设计:只保存轨迹和结果,按需临时生成针对当前任务的指导,用完即丢
  • 由一个参考历史结果的自适应选择器决定是否以及如何生成指导
  • 作者报告在多个基准和基座模型上,该设计在对比的记忆方案中留出集总体成功率最高、平均 LLM 调用成本最低;摘要未给出具体数字
  • 结论:积累经验和持久保存对经验的解读应作为两个独立的设计选择
为什么值得关注

给 Agent 加「自我总结的经验库」或自动生成技能时,要考虑错误规则被反复强化的风险,可以保留原始记录、定期重建而不是只追加。

来源

Esc
↑ ↓ 选择Enter 打开

分享图

1080 × 1350,适合发到群聊或朋友圈
分享图预览

键盘快捷键

j / k
下一条 / 上一条
o
展开或收起当前条目
Enter
打开当前条目详情
c
复制当前条目链接
s
收藏 / 取消收藏当前条目
/ 或 ⌘K
搜索
1 2 3
切换密度:标题 / 摘要 / 完整
t
切换主题
?
显示本帮助