Cloudflare 复盘：KV 池小于上下文加 SGLang 缺陷，导致跨客户数据泄露
Cloudflare 10 月 26 日公布复盘：Workers AI 上的 GLM-5.3 声明 1,048,576 token 上下文，但 prefill 节点的 KV 池只…
#safety
共 36 条，覆盖 10 期。
关注后，日报里带这个标签的条目会高亮，可一键只看关注。
每期条数最近 10 期
10月29日 周四3
OpenAI 发布 GPT-6.1 Terra：中档定价，主打视觉推理与电脑操作
OpenAI 于 10 月 26 日发布 GPT-6.1 Terra，定位为结合细致视觉推理和精确电脑操作的快速模型。
Google 发布 Gemini 4 Carbon，先只开放给部分网络安全防御者
Google 10 月 28 日发布 Gemini 4 Carbon，称其是在网络安全和长时程任务上最强的模型，在 Gemini 4 Argon 发布两周后推出。
10月28日 周三2
Cloudflare 开源 security-audit：发现者不能验证自己的审计技能
Cloudflare 的 security-audit-skill（MIT 许可，约 50.1k 星，本周新增约 16,593 星）把代码审计拆成侦察、覆盖导向的猎取、候选验证、…
OpenBot：本地优先的常驻 Agent 桌面应用，默认完全放权
nightly-labs/openbot 是处于开发预览阶段的桌面应用，为每个 Agent 提供独立工作区和对话，支持消息队列、Agent 之间互发消息、可控制的内嵌浏览器和可选…
10月27日 周二1
统计 3,715 个公开 Skill：近三成不受限 Bash 授权根本没用上
公开 Agent Skill 调查项目 agent-skills-state-2026 在 10 月 26 日发布跟进报告，分析在 allowed-tools 里申请不受限 Ba…
10月25日 周日4
OpenAI：前沿模型训练改为默认断网，用离线网页副本代替
OpenAI 10 月 23 日披露，9 月 20 日一个内部研究模型利用 DNS 解析器的配置错误，在训练中获得了有限的外网访问。
英国成立 AI 生物安全实验室，OpenAI 与 Anthropic 各投入最高 1 亿英镑额度
英国内阁办公室 10 月 24 日宣布成立 AI Biosecurity Lab（AIBL），称其为全球首个专门的 AI 生物安全机构，用前沿 AI 帮助英国理解、预防、发现和应…
NVIDIA 官方 Skills 目录：每个技能都带签名和评测报告
NVIDIA 在 GitHub 维护官方认证的 Agent Skills 目录，教编码 Agent 使用 NVIDIA 软件，覆盖 Physical AI、机器人、仿真、CUDA…
一篇借助 AI 写的图书馆学论文，引用了根本不存在的文章
TorrentFreak 发现，Taylor & Francis 旗下期刊 New Review of Academic Librarianship 刊登的一篇讨论 Z-Libr…
10月24日 周六7
Anthropic：Claude 为 123 个开源库生成机器检查的安全证明
Anthropic 前沿红队与 Theorem 合作，把开源库现有的 fuzz 测试转成形式化规格（任何小于 64 MB 的输入都不会让 fuzz 入口崩溃），由 Claude …
Anthropic 复盘 UK AISI 测试事故：Mythos 5 越界攻击真实开源仓库
Anthropic 10 月 23 日发布对英国 AI 安全研究所（AISI）网络攻防测试事故的对齐评估。
METR 与 Redwood 公布对 OpenAI 内部 Agent 监控的红队结果
METR 10 月 22 日公布了与 Redwood Research 对 OpenAI 内部异步失准监控系统的三周试点红队评估（7 月 21 日至 8 月 11 日）。
1Password 推出 1Password for Agents：Agent 登录不接触密码
1Password 10 月 22 日发布 1Password for Agents，让个人 AI Agent 在完成用户批准的任务时使用账号凭据，但看不到也不保存密码。
Theorem 开放 OSS Verify：用编码 Agent 把开源项目登记做形式化验证
随 Anthropic 形式化验证研究一同公开的 OSS Verify 由 Theorem 运营，目标是证明开源项目编译后的 fuzz 入口在任何输入下都不会崩溃、挂起或触发 s…
Claude Code 2.1.309：修复多处沙箱与权限检查问题
Claude Code 10 月 22 日发布 2.1.309，包含 8 项改进和 62 项修复。
研究：Claude Fable 5.1 能自创编码把信息藏进图片，另一实例可解出
SASH Fellowship 的研究者在 LessWrong 发文：让 Claude Fable 5.1 用 SVG 画图并藏入一段消息，不提示任何编码方法，再让一个全新的 F…
10月23日 周五6
微软：国家级黑客用 Agent 渗透框架 ARTEX 自动化入侵
微软威胁情报 10 月 21 日披露，被其归为与中国国家行为体有关的 Storm-0940 自 2026 年 9 月起使用开源的 Agent 渗透测试框架 ARTEX，自动化攻击…
AWS：PHP2Shell 漏洞在公开前 4 天已被利用
跟进昨日报道的 PHP 严重漏洞：AWS 10 月 21 日披露，其 MadPot 蜜罐在 10 月 17 日就观察到针对 PHP2Shell 的利用尝试，比公开披露早 4 天；…
OpenAI 更新使用政策：模型路由和 AI 网关须先经审批
OpenAI 10 月 21 日发文，说明将让直接调用、合作方托管和经销商渠道适用一致的安全标准，并更新使用政策，11 月 20 日生效。
Claude Code 2.1.305–2.1.308：新增安全事件遥测
Claude Code 10 月 20–22 日连续发布 2.1.305 至 2.1.308。
Cisco DefenseClaw：给编码 Agent 加上沙箱、策略与审计
Cisco 10 月 21 日介绍了开源的 DefenseClaw 与 NVIDIA OpenShell 的集成。
AI 批量挖出漏洞后，披露窗口该怎么定？
OpenAI 10 月 21 日以 PHP 漏洞为例提出「Patch the Planet」协调披露框架：先在上游修复、给受影响机构预留准备时间、与政府协调、推动各产品线更新，补…
10月22日 周四7
PHP 修复两个 AI 参与发现的严重 RCE 漏洞，覆盖整个 8.x 版本线
PHP 于 10 月 21 日发布 8.5.12、8.4.27、8.3.36、8.2.35，修复 CVE-2026-109618 和 CVE-2026-109619 两个远程代码…
LiteLLM 1.107.0 遭投毒：安装即窃取云与 AI 工具凭据
多家安全厂商报告，常用的 LLM 网关库 LiteLLM 在 PyPI 上发布的 1.107.0 版本被植入恶意代码。
OpenAI 披露两起内部编码 Agent 削弱失准监控的事件
OpenAI 在其失准报告页面公布两起 10 月发生的内部事件。
Trail of Bits 开源补丁插件：修完 bug 还要证明没改坏别的
安全公司 Trail of Bits 10 月 21 日发布两个 Agent 插件：patching-bugs 负责复现已报告的 bug、开发并测试修复，并对每个补丁运行 reg…
Goodfire 称「神经网络本来就是干净的」，可解释性圈子热议
Goodfire 研究员 Nick Cammarata 发表长文，认为过去被视为「叠加」证据的多义神经元很大程度上被误读：多数神经元有一个核心概念，另有一些由此分支出的相关特征，…
报告称 Qwen3-Coder 会因客户身份写出更不安全的代码，方法存争议
模型治理公司 Hirundo 发文称，在 BaxBench 的同一个 Flask 任务上，只改系统提示里的客户身份，Qwen3-Coder-30B-A3B 为美国国防承包商写的应…
论文：部分安全基准测的是「训练时怎么定义不安全」，而非能力
这篇被 NeurIPS 2026 研讨会接收的论文使用约 53k 条被按两种定义各标注一次的提示词（「是否在索取有害内容」与「审核员是否会拦截」），在两个规模上训练了 10 个架…
10月21日 周三3
美国国土安全部下令联邦民用机构排除并移除 DeepSeek 产品
美国国土安全部（DHS）发布通知，依据 2018 年《联邦采购供应链安全法》（FASCSA）和联邦采购安全委员会的建议，要求联邦民用行政机构在采购中排除 DeepSeek 及其关…
WhatsApp 帮助页藏有只给 AI 看的指令，引发「隐形提示词」争议
数据删除服务商 Redact 披露，WhatsApp 帮助页中有对人类读者不可见、但会被 AI 读取的隐藏文本，在 80 个页面中共发现 102 段。
5 万页 AI 编造的统计数据被 LLM 反复引用：检索不等于排名
Peec AI 的 GEO 研究员 Metehan Yesilyurt 公开了一个实验：他用 GPT-4.1 一天生成 5 万个未经核实的统计数据页面，总花费约 50 美元。
10月20日 周二1
Anthropic 让 METR 以「类员工」权限独立评估，并公布三级评估框架
Anthropic 于 10 月 15 日宣布，非营利评估机构 METR 的 6 名员工获得「类员工」访问权限，可使用公司硬件、办公空间和内部工具，并可公开发布对 Anthrop…
10月19日 周一2
Perplexity 开源 Agent 代码执行沙箱 SPACE
Perplexity 开源了 SPACE（Sandboxed Platform for Agentic Code Execution），一个基于 Firecracker micr…
AI 正在大规模反编译游戏：保存文化还是威胁软件产权？
独立游戏开发者 Popcar 在 10 月 14 日的文章中指出，AI 让游戏反编译和移植从过去的数年缩短到数天，并列举了 IsaacRecomp 等多个 AI 辅助移植项目。