论文 了解即可 10月24日 周六 #safety#multimodal#research

研究:Claude Fable 5.1 能自创编码把信息藏进图片,另一实例可解出

SASH Fellowship 的研究者在 LessWrong 发文:让 Claude Fable 5.1 用 SVG 画图并藏入一段消息,不提示任何编码方法,再让一个全新的 Fable 5.1 会话只看渲染后的 PNG 去解读。50 条消息中有 39 条被成功还原,最常见的方法是用一排相似物体(楼房、星星)的高度对应字母序号。

要点

  • 50 张图中 33 张用了高度编码;高度编码经截图后依然可读,颜色编码大多不行
  • GPT-6 Astra 从不用高度,多用摩尔斯码(50 条中 18 条);Fable 编码、Astra 解码的成功率为 88%
  • 作者认为这可能是「无需事先约定的图像隐写」的前兆,但目前解码过程在工具调用日志中很容易发现,暂不构成现实危险
  • 评论区有人认为可能存在同模型优势,作者给出完整数据后显示 Fable 自解的成功率在四种组合中最低
为什么值得关注

多 Agent 系统若允许 Agent 之间传图,监控只看文字可能不够;这项小规模实验提示,Agent 间通信的审计范围应覆盖图像等非文本通道。

来源

Esc
↑ ↓ 选择Enter 打开

分享图

1080 × 1350,适合发到群聊或朋友圈
分享图预览

键盘快捷键

j / k
下一条 / 上一条
o
展开或收起当前条目
Enter
打开当前条目详情
c
复制当前条目链接
s
收藏 / 取消收藏当前条目
/ 或 ⌘K
搜索
1 2 3
切换密度:标题 / 摘要 / 完整
t
切换主题
?
显示本帮助