要闻 了解即可 10月20日 周二 #safety#policy

Anthropic 让 METR 以「类员工」权限独立评估,并公布三级评估框架

Anthropic 于 10 月 15 日宣布,非营利评估机构 METR 的 6 名员工获得「类员工」访问权限,可使用公司硬件、办公空间和内部工具,并可公开发布对 Anthropic 风险水平和做法的分析,Anthropic 无权否决发布,只能要求删去预先约定类别的信息(如机密知识产权)。

要点

  • 提出三级评估者访问框架:Tier 1 范围窄、发布需批准;Tier 2 可不经批准发布;Tier 3 即 METR 这类类员工权限
  • SecureBio 正在审阅 8 月风险报告中的化学与生物武器章节
  • 与 Accenture 和 Faculty 推进覆盖评测、红队和对齐评估的合作,并与 Hugging Face 等机构初步接洽
  • Anthropic 将其类比银行监管中派驻检查员的做法,并认为所有前沿 AI 公司都应这样做
为什么值得关注

第三方评估从「受邀测试」走向「内部驻场 + 独立发布」,可能成为前沿模型治理的新参照,值得关注其他公司是否跟进。

来源

Esc
↑ ↓ 选择Enter 打开

分享图

1080 × 1350,适合发到群聊或朋友圈
分享图预览

键盘快捷键

j / k
下一条 / 上一条
o
展开或收起当前条目
Enter
打开当前条目详情
c
复制当前条目链接
s
收藏 / 取消收藏当前条目
/ 或 ⌘K
搜索
1 2 3
切换密度:标题 / 摘要 / 完整
t
切换主题
?
显示本帮助