OR-License:用真实付费咨询项目评测 Agent 做运筹优化
港科大等团队发布 OR-License 基准,检验 LLM Agent 能否直接从客户原始材料出发,交付专家级的运筹优化方案。基准包含来自真实付费运筹咨询项目的 31 个实例、覆盖 10 个工业场景,项目总金额 368 万美元,并保留原始需求、数据和交付格式。作者还构建了只透露业务事实、不懂运筹的模拟客户 ORSim,用来研究 Agent 如何收集信息。
要点
- 评测 11 个前沿模型,多个在目标函数质量上超过专家参考解,但按「不可行交付记零分」的 DAQ 指标没有一个达到专家水平
- 最佳配置为 Claude Code,严格可行率 88.39%,DAQ 为 0.87(专家参考为 1)
- 各模型的完整研究链路完成率在 24% 到 45% 之间
- 作者认为 Agent 还需要补足信息缺口的持续追问、忠实的问题建模和基于证据的自我改进
为什么值得关注
「方案最优但不可交付」是 Agent 进入专业咨询类工作的典型差距,用真实项目和可交付性来评测,比单纯比分数更接近实际落地要求。
来源
### [OR-License:用真实付费咨询项目评测 Agent 做运筹优化]({{URL}})
港科大等团队发布 OR-License 基准,检验 LLM Agent 能否直接从客户原始材料出发,交付专家级的运筹优化方案。基准包含来自真实付费运筹咨询项目的 31 个实例、覆盖 10 个工业场景,项目总金额 368 万美元,并保留原始需求、数据和交付格式。作者还构建了只透露业务事实、不懂运筹的模拟客户 ORSim,用来研究 Agent 如何收集信息。
- 评测 11 个前沿模型,多个在目标函数质量上超过专家参考解,但按「不可行交付记零分」的 DAQ 指标没有一个达到专家水平
- 最佳配置为 Claude Code,严格可行率 88.39%,DAQ 为 0.87(专家参考为 1)
- 各模型的完整研究链路完成率在 24% 到 45% 之间
- 作者认为 Agent 还需要补足信息缺口的持续追问、忠实的问题建模和基于证据的自我改进
**为什么值得关注**:「方案最优但不可交付」是 Agent 进入专业咨询类工作的典型差距,用真实项目和可交付性来评测,比单纯比分数更接近实际落地要求。
来源:[OR-License: Evaluating LLM Agents as Real-World Operations Research Practitioners](https://arxiv.org/abs/2610.24087)