OpenDS-World:在真实网络上评测深度搜索,最好的模型只答对 39%
论文提出 OpenDS 任务和 OpenDS-World 基准:200 个高难度任务要求 Agent 在真实开放网络上跨多个独立来源搜索、浏览和处理证据,得出唯一可验证的答案,涉及多种信息形态、异构文件格式和需要交互才能访问的页面,证据和答案唯一性经过人工独立核验。
要点
- 在统一工具环境和执行协议下评测了 12 个前沿模型,最好的准确率为 39.0%
- 人类在 1000 次独立尝试中的准确率为 21.1%
- 不同模型在工具使用、搜索成本、何时停止和失败恢复上的策略差异很大,工具协调和长程搜索管理仍是短板
- 代码已在 GitHub 公开
为什么值得关注
多数深度搜索评测在受控环境里进行,这个基准更接近真实使用;39% 的上限说明「让 Agent 去网上查清楚」的任务,结果仍需要人工核对。
来源
### [OpenDS-World:在真实网络上评测深度搜索,最好的模型只答对 39%]({{URL}})
论文提出 OpenDS 任务和 OpenDS-World 基准:200 个高难度任务要求 Agent 在真实开放网络上跨多个独立来源搜索、浏览和处理证据,得出唯一可验证的答案,涉及多种信息形态、异构文件格式和需要交互才能访问的页面,证据和答案唯一性经过人工独立核验。
- 在统一工具环境和执行协议下评测了 12 个前沿模型,最好的准确率为 39.0%
- 人类在 1000 次独立尝试中的准确率为 21.1%
- 不同模型在工具使用、搜索成本、何时停止和失败恢复上的策略差异很大,工具协调和长程搜索管理仍是短板
- 代码已在 GitHub 公开
**为什么值得关注**:多数深度搜索评测在受控环境里进行,这个基准更接近真实使用;39% 的上限说明「让 Agent 去网上查清楚」的任务,结果仍需要人工核对。
来源:[Deep Search in Real-World Web Environments](https://huggingface.co/papers/2610.30181)