论文 了解即可 10月21日 周三 #evaluation#agent#research

OR-License:用真实付费咨询项目评测 Agent 做运筹优化

港科大等团队发布 OR-License 基准,检验 LLM Agent 能否直接从客户原始材料出发,交付专家级的运筹优化方案。基准包含来自真实付费运筹咨询项目的 31 个实例、覆盖 10 个工业场景,项目总金额 368 万美元,并保留原始需求、数据和交付格式。作者还构建了只透露业务事实、不懂运筹的模拟客户 ORSim,用来研究 Agent 如何收集信息。

要点

  • 评测 11 个前沿模型,多个在目标函数质量上超过专家参考解,但按「不可行交付记零分」的 DAQ 指标没有一个达到专家水平
  • 最佳配置为 Claude Code,严格可行率 88.39%,DAQ 为 0.87(专家参考为 1)
  • 各模型的完整研究链路完成率在 24% 到 45% 之间
  • 作者认为 Agent 还需要补足信息缺口的持续追问、忠实的问题建模和基于证据的自我改进
为什么值得关注

「方案最优但不可交付」是 Agent 进入专业咨询类工作的典型差距,用真实项目和可交付性来评测,比单纯比分数更接近实际落地要求。

来源

Esc
↑ ↓ 选择Enter 打开

分享图

1080 × 1350,适合发到群聊或朋友圈
分享图预览

键盘快捷键

j / k
下一条 / 上一条
o
展开或收起当前条目
Enter
打开当前条目详情
c
复制当前条目链接
s
收藏 / 取消收藏当前条目
/ 或 ⌘K
搜索
1 2 3
切换密度:标题 / 摘要 / 完整
t
切换主题
?
显示本帮助