论文 了解即可 10月25日 周日 #agent#evaluation#research

OpenDS-World:在真实网络上评测深度搜索,最好的模型只答对 39%

论文提出 OpenDS 任务和 OpenDS-World 基准:200 个高难度任务要求 Agent 在真实开放网络上跨多个独立来源搜索、浏览和处理证据,得出唯一可验证的答案,涉及多种信息形态、异构文件格式和需要交互才能访问的页面,证据和答案唯一性经过人工独立核验。

要点

  • 在统一工具环境和执行协议下评测了 12 个前沿模型,最好的准确率为 39.0%
  • 人类在 1000 次独立尝试中的准确率为 21.1%
  • 不同模型在工具使用、搜索成本、何时停止和失败恢复上的策略差异很大,工具协调和长程搜索管理仍是短板
  • 代码已在 GitHub 公开
为什么值得关注

多数深度搜索评测在受控环境里进行,这个基准更接近真实使用;39% 的上限说明「让 Agent 去网上查清楚」的任务,结果仍需要人工核对。

来源

Esc
↑ ↓ 选择Enter 打开

分享图

1080 × 1350,适合发到群聊或朋友圈
分享图预览

键盘快捷键

j / k
下一条 / 上一条
o
展开或收起当前条目
Enter
打开当前条目详情
c
复制当前条目链接
s
收藏 / 取消收藏当前条目
/ 或 ⌘K
搜索
1 2 3
切换密度:标题 / 摘要 / 完整
t
切换主题
?
显示本帮助