Anthropic 让 METR 以「类员工」权限独立评估,并公布三级评估框架
Anthropic 于 10 月 15 日宣布,非营利评估机构 METR 的 6 名员工获得「类员工」访问权限,可使用公司硬件、办公空间和内部工具,并可公开发布对 Anthropic 风险水平和做法的分析,Anthropic 无权否决发布,只能要求删去预先约定类别的信息(如机密知识产权)。
要点
- 提出三级评估者访问框架:Tier 1 范围窄、发布需批准;Tier 2 可不经批准发布;Tier 3 即 METR 这类类员工权限
- SecureBio 正在审阅 8 月风险报告中的化学与生物武器章节
- 与 Accenture 和 Faculty 推进覆盖评测、红队和对齐评估的合作,并与 Hugging Face 等机构初步接洽
- Anthropic 将其类比银行监管中派驻检查员的做法,并认为所有前沿 AI 公司都应这样做
为什么值得关注
第三方评估从「受邀测试」走向「内部驻场 + 独立发布」,可能成为前沿模型治理的新参照,值得关注其他公司是否跟进。
来源
### [Anthropic 让 METR 以「类员工」权限独立评估,并公布三级评估框架]({{URL}})
Anthropic 于 10 月 15 日宣布,非营利评估机构 METR 的 6 名员工获得「类员工」访问权限,可使用公司硬件、办公空间和内部工具,并可公开发布对 Anthropic 风险水平和做法的分析,Anthropic 无权否决发布,只能要求删去预先约定类别的信息(如机密知识产权)。
- 提出三级评估者访问框架:Tier 1 范围窄、发布需批准;Tier 2 可不经批准发布;Tier 3 即 METR 这类类员工权限
- SecureBio 正在审阅 8 月风险报告中的化学与生物武器章节
- 与 Accenture 和 Faculty 推进覆盖评测、红队和对齐评估的合作,并与 Hugging Face 等机构初步接洽
- Anthropic 将其类比银行监管中派驻检查员的做法,并认为所有前沿 AI 公司都应这样做
**为什么值得关注**:第三方评估从「受邀测试」走向「内部驻场 + 独立发布」,可能成为前沿模型治理的新参照,值得关注其他公司是否跟进。
来源:[An update on independent evaluators](https://www.anthropic.com/news/an-update-on-independent-evaluators)