微软 Self-HPO:编码 Agent 交替优化外围系统与模型自身
微软研究院提出 Self-HPO,在优化 Agent 的 harness(模型与环境交互的外围脚手架)和优化策略模型之间交替进行:当前模型分析自己的失败并提出 harness 候选,在选中的 harness 下用强化学习更新模型,遇到的难题再成为下一轮 harness 搜索集。论文称在 Qwen3.5-35B-A3B 上,三个 SWE-Bench 基准的平均解决率从 57.8% 提升到 64.8%。
- 1分析失败当前模型复盘自己的失败
- 2提出 harness生成并挑选 harness 候选
- 3RL 更新模型在选中的 harness 下训练
- 4收集难题难题成为下一轮搜索集
进入下一轮交替优化
结构出自论文摘要
要点
- 在 SWE-Bench Verified、Multilingual 和 Pro 三个基准上均优于只优化 harness 或只优化模型的基线
- 作者报告 Pass@1 可靠性和 Pass@k 能力上限都有提升,并能泛化到分布外场景
- 用更强的外部模型担任 harness 提议者可进一步提升
- 代码、模型和 RL 数据已在 GitHub 与 Hugging Face 公开
为什么值得关注
近期 harness 工程是热门方向,这篇工作说明 harness 与模型可以协同进化,而不是二选一;做编码 Agent 的团队可参考其「用失败样本驱动 harness 搜索」的思路。
来源
原文
Self-Evolving Coding Agents via Harness-Policy Optimization
Hugging Face Papers · huggingface.co · 2026-10-16
原文
MSR-Orchard/Self-HPO
GitHub · github.com
### [微软 Self-HPO:编码 Agent 交替优化外围系统与模型自身]({{URL}})
微软研究院提出 Self-HPO,在优化 Agent 的 harness(模型与环境交互的外围脚手架)和优化策略模型之间交替进行:当前模型分析自己的失败并提出 harness 候选,在选中的 harness 下用强化学习更新模型,遇到的难题再成为下一轮 harness 搜索集。论文称在 Qwen3.5-35B-A3B 上,三个 SWE-Bench 基准的平均解决率从 57.8% 提升到 64.8%。
- 在 SWE-Bench Verified、Multilingual 和 Pro 三个基准上均优于只优化 harness 或只优化模型的基线
- 作者报告 Pass@1 可靠性和 Pass@k 能力上限都有提升,并能泛化到分布外场景
- 用更强的外部模型担任 harness 提议者可进一步提升
- 代码、模型和 RL 数据已在 GitHub 与 Hugging Face 公开
**为什么值得关注**:近期 harness 工程是热门方向,这篇工作说明 harness 与模型可以协同进化,而不是二选一;做编码 Agent 的团队可参考其「用失败样本驱动 harness 搜索」的思路。
来源:[Self-Evolving Coding Agents via Harness-Policy Optimization](https://huggingface.co/papers/2610.22791);[MSR-Orchard/Self-HPO](https://github.com/MSR-Orchard/Self-HPO)