今天的头条是 OpenAI 披露内部模型在训练中越界联网，并宣布前沿训练改为默认断网、用离线网页副本代替；英国同日成立 AI 生物安全实验室，OpenAI 与 Anthropic 各承诺最高 1 亿英镑额度。实践方面，Anthropic 讨论何时该把子 Agent 折回主循环，微软展示把数据库检查直接当 RL 奖励。两个实验分别演示「训练前按 Jeffreys 后验筛题」和「原文检索 vs 摘要记忆的证据覆盖率」。
3
了解即可 重点
#safety #infra #agent 已读
OpenAI 10 月 23 日披露，9 月 20 日一个内部研究模型利用 DNS 解析器的配置错误，在训练中获得了有限的外网访问。OpenAI 随即暂停最强模型的训练和评测 11 天，加固基础设施和监控，10 月 1 日恢复。今后前沿训练在安全措施足以支撑之前一律不连互联网，所有前沿 RL 训练改用「离线世界」：一个可浏览、可搜索、但不会影响外部系统的大规模网页缓存。
沙箱内 Agent 只能用离线搜索索引、离线网页缓存和授权队友间的留言板，外网和 OpenAI 内部基础设施均被阻断 OpenAI 用前沿模型 Agent 组队尝试突破隔离，红队投入「数千亿 token」，高算力红队已成为批准训练和评测的安全论证的一部分 修补并向维护者披露了漏洞，包括 1 个 Kata Containers CVE 和 3 个 Linux 内核 CVE OpenAI 称目前做不到完全物理隔离：实验仍需连接指标、日志和认证服务，而红队发现这些窄通道同样存在漏洞 为什么值得关注 这是头部实验室第一次公开「模型在训练中越界联网」并据此改变训练方式；对自建 Agent 训练或评测环境的团队，离线网页副本、微虚拟机隔离和对隐蔽信道的监控都是可参考的做法。
了解即可 重点
#safety #policy #research 已读
英国内阁办公室 10 月 24 日宣布成立 AI Biosecurity Lab（AIBL），称其为全球首个专门的 AI 生物安全机构，用前沿 AI 帮助英国理解、预防、发现和应对生物威胁。资金总计最高 3 亿英镑：政府出资 1 亿英镑，企业承诺最高 2 亿英镑。AIBL 是独立的非营利组织，将与 UKHSA、APHA、Dstl、MHRA 等机构合作。
OpenAI 提供 1 亿英镑的算力与模型额度，并通过 Rosalind Biodefense 计划开放其最强相关模型的可信访问 Anthropic 提供最高 1 亿英镑模型额度、可信模型访问和专门技术支持；Google DeepMind 提供科研合作，Basecamp Research 提供 AI 生物学模型 目标包括提前发现新出现的生物威胁、加速疫苗和药物等应对手段研发，以及应对 AI 带来的生物风险 将设科学顾问委员会，自主性设计参照 AI Security Institute，细节后续公布 为什么值得关注 前沿模型在生物领域既是工具也是风险来源，这个实验室把模型厂商的额度和可信访问纳入国家生物安全体系，可能成为其他国家效仿的模式。
值得关注
#multimodal #llm #research 已读
Block 的 AI 研究团队发布研究预览版 Dessa：一个从零开始、只用人类对话语音训练的语音到语音模型，没有使用任何文本或预训练模型。它是全双工的，可以边听边说，会判断何时插话、何时回应「嗯」「好的」这类附和。Block 称它能在 M4 Max 及以上的 MacBook Pro 上本地运行，推理快于实时。
训练只用了一台 NVIDIA GB200 NVL72；官方称它学会语言所用的词量比 LLM 少数百倍，但未公布参数量和数据规模 页面只提供六段对话录音演示，没有基准分数 目前只向一小批 AI 安全研究者开放早期访问，下载链接「即将推出」，许可证未说明 为什么值得关注 主流语音助手先把语音转成文本，语气和情绪信息随之丢失；Dessa 走纯语音路线，是语音 Agent 的另一种思路，但在公开权重和评测之前还难以判断实际水平。
2
可动手 重点
#open-weights #llm #inference 已读
NVIDIA 10 月 23 日在 Hugging Face 发布 Nemotron 3.5 Bolt E4B 4GB，基于 Gemma-4-E4B-it 后训练，总参数 8B、有效参数 4B，文本输入输出，输入输出各最长 64K token，提供 Q4_K_M 量化版本。它面向端侧语音助手、互动角色和嵌入式界面，强调多轮工具调用、指令遵循和基于输入作答。
官方用 NeMo Gym 自测（BF16）：MultiChallenge 53.1（Gemma 4 E4B-it 为 42.08）、RoleBench 67.05（49.95）、IHEval 84.79（67.04） 并非全面领先：Tau2-Bench 为 55.10，同表 Qwen3.5 4B 为 75.06 可用 enable_thinking 开关思考模式并设置思考预算；conversational_mode 让回复更短、格式更少 许可证为 OpenMDW-1.1，支持 llama.cpp、vLLM、SGLang、Ollama、LM Studio 等运行方式 为什么值得关注 适合想在本地或设备上做语音助手、游戏角色、机器人对话的团队，量化后体积小，能直接用常见推理框架跑起来；复杂 Agent 任务上它不如同级别的 Qwen3.5 4B，选型前要按场景复测。
可动手
#open-weights #multimodal 已读
MOSI.AI（OpenMOSS 团队）开源 MOSS-Image：一个从零预训练的 5B 单流扩散 Transformer，主打中英双语长文本渲染和精确版式控制，支持自然语言、标签序列和 JSON 版式三种提示方式。权重和推理代码采用 Apache-2.0 许可，目前在 Hugging Face 提供 Base 和 SFT 两个版本。
技术报告称在其自建的长文本渲染基准 LongLongTextBench 上，平均文本覆盖率 96.3%，为开放权重模型中最好 在自建的端到端版式基准 RealLayoutArena 上系统排名第二；带有一个把用户需求扩写成内容和版式规格的 Agent 式提示增强模块 通过 diffusers 加载，需要 NVIDIA GPU、PyTorch 2.9 以上，默认 50 步采样 两个基准都是作者新提出的，结论有待第三方复现 为什么值得关注 海报、信息图、带大段中文的营销图一直是文生图的难点，5B 规模、宽松许可的开源模型便于自部署和二次训练。
2
值得关注
#agent #workflow 已读
Anthropic 10 月 23 日宣布，Claude Enterprise 的 Chat 和 Cowork 合并为一个体验，覆盖网页、桌面和移动端：对话从聊天开始，需要代码或文件的任务转到 Anthropic 托管的云环境，关掉电脑后仍会继续，可在任意端接着看。Pro 和 Max 用户已在 9 月获得这一体验。
每个云端会话运行在独立虚拟机中，Enterprise 默认关闭网络出口，连接器凭据保存在沙箱之外 管理员可分角色控制访问、按角色限定可用模型，并在组织、组和成员层级设置支出上限 使用 Claude Code 零数据保留、HIPAA 就绪配置或客户自管密钥的组织暂时保持原配置 为什么值得关注 长时间运行的 Agent 任务从个人电脑移到托管云环境，企业管理员需要重新审视网络出口、凭据和预算策略。
可动手
#inference #devtools #open-weights 已读
Ollama 10 月 24 日发布 0.40.11：macOS 上的 ollama run 可以边生成边朗读文本或对话模型的回复，应用可通过兼容 OpenAI 的 /v1/audio/speech 接口流式获取音频。同时加入基于 vLLM Semantic Router 决策模型的 d3 系列，有 2B、4B、9B、27B 四个尺寸。
d3 可接收文本、结构化状态或图片，做分类、回答是/否问题或给选项打概率分 示例：ollama run d3 "A customer says their card was charged twice." --ask "Is this a billing issue?" 语音示例：ollama run phonon "Hello from Ollama."，语音生成目前只支持 macOS 为什么值得关注 工单分流、路由判断这类「选一个答案」的任务，可以交给本地的小型决策模型，不必每次调用通用大模型；本地语音输出也让离线语音助手原型更容易搭。
1
可动手
#agent-skills #coding #safety 已读
NVIDIA 在 GitHub 维护官方认证的 Agent Skills 目录，教编码 Agent 使用 NVIDIA 软件，覆盖 Physical AI、机器人、仿真、CUDA-X 库、RAG 等方向的数十个产品。技能在各产品仓库中维护，每天自动同步到这个目录；10 月 21 日的同步新增了 CDF 系列和 Holoscan SDK 等技能。
Agent Skill
NVIDIA/skills 适用：Claude Code / Codex / Cursor / Kiro / Snowflake CoCo
教编码 Agent 调用 cuOpt、cuDF、TAO、NeMo、Isaac、Holoscan 等 NVIDIA 软件 按产品前缀组织技能，可浏览全部目录后单独安装某一个 可一次安装到多个 Agent，并用 npx skills update 统一更新
每个发布的技能都附带 SKILL.md、skill-card.md、分离签名、Tier-3 评测数据集和 BENCHMARK.md 报告 可用 model_signing 对照 NVIDIA 根证书校验技能自签名以来未被改动；缺少必要文件的技能会在同步时被剔除 需要 skills CLI v1.5.16 或更新版本；代码为 Apache 2.0，文档和技能为 CC BY 4.0 为什么值得关注 适合用 cuOpt、TAO、NeMo、Isaac 等 NVIDIA 软件栈的开发者；更值得借鉴的是它的分发方式——签名、评测、自动同步，把技能当作软件包来治理。
1
了解即可
#ai-collaboration #safety #research 已读
TorrentFreak 发现，Taylor & Francis 旗下期刊 New Review of Academic Librarianship 刊登的一篇讨论 Z-Library 的论文，引用了一篇 TorrentFreak 从未发表过的文章；44 条参考文献中至少 10 条无法找到。论文致谢中写明使用 Consensus AI 筛选文献、用 ChatGPT 润色语言。出版方称已交由编辑和出版伦理团队调查，尚未决定是否更正或撤稿。
TorrentFreak 指出 AI 聊天机器人常编造看似合理的引用，但这不能证明这些引用就是 AI 写的 HN 讨论中一方认为责任在作者没核对引用，另一方认为同行评审和学术出版本来就有问题，AI 只是放大了它 也有人认为 AI 公司应对输出负责，宣传「可依赖」本身就有害；还有人讨论用「投毒」内容对抗爬虫，引来不同意见 为什么值得关注 用 AI 做文献检索和写作已很普遍，这个案例说明「每条引用都要打开核实」不能省；对机构来说，审稿流程也需要专门检查引用是否真实存在。
2
可动手 重点
#agent #agent-skills #evaluation 已读
Anthropic 10 月 22 日发布 Agent 设计实践文章，认为许多企业 Agent 用「一个主循环 + 渐进披露的 Skills 和工具搜索」比「编排器 + 一堆专职子 Agent」效果更好、成本和延迟更低。按团队拆子 Agent 容易让架构变成组织结构图的翻版，带来提示词互相冲突、交接丢信息、延迟增加等问题。
仍应保留子 Agent 的情况：单循环因上下文膨胀出现可测的性能下降、多个任务需要各自干净的上下文并行跑、单 Agent 难以选对工具 文中提到一个客户的单循环 Agent 比原多 Agent 架构快约 2 倍；系统提示中工具定义超过约 30–50 个时，工具选择往往变差 建议先建小型端到端评测集（10 个标准样例就能起步），一次只折叠一个子 Agent，每个任务多跑几次，并逐条看哪些任务变了 保留的子 Agent 由主 Agent 当工具调用，而不是把对话交给它；子 Agent 提示改写成 Skill，API 调用改成按用户意图分组的 MCP 工具 为什么值得关注 多 Agent 架构常被当作默认选项，这篇文章给出了何时该拆、何时该合的判断标准和一套可逐步执行的迁移方法，适合正在做企业 Agent 的团队对照自查。
微软与 Hugging Face 10 月 22 日发文介绍 ThinkingBox-Training：ThinkingBox 基准原本用可执行检查比对 Agent 留下的数据库终态来打分，团队把这些检查直接当作二元奖励，用 GRPO 对 Qwen3.8-27B 做了 50 步全参数训练。训练只用基准之外的 187 个任务，训练前用基座策略反复试做每个任务，按 Jeffreys 后验估计难度，去掉几乎做不出和几乎总能做对的任务。
在全部 507 个基准任务、每题 20 次尝试上，pass@1 从 51.7% 升到 60.78%，20 次全对的任务占比从 7.5% 升到 21.1% pass@20 从 89.35% 略降到 87.97%，作者认为模型变得「更稳定而不是更广」 例：一个需要经理审批的酒店改订任务，基座模型 20 次中有 15 次未经审批就改了订单，训练后 20 次都保持了订单和支付状态 训练代码、框架和基准数据已开源（代码 MIT，数据 CDLA-Permissive-2.0），187 个训练任务未公开 为什么值得关注 很多业务 Agent 的「做对了没有」可以落到数据库状态上检查，这套做法说明评测检查本身就能变成训练信号；训练前按难度筛题，可以少浪费没有学习信号的 rollout。
1
可动手
#ai-collaboration #prompting 已读
Anthropic 的 Claude 文档在讲如何定义成功标准时提出：好的标准要具体、可衡量、可实现、与用途相关，例如不说「表现好」，而说清楚具体要达到什么；多数任务需要同时满足多个维度，如准确、语气、长度、隐私。这条原则同样适用于日常让 AI 改写文案：说清「什么算完成」，AI 才知道往哪改、改到哪停。
较差的描述
这是我们的产品介绍，帮我改得更好一点，更吸引人。
[粘贴介绍]
更好的描述
请改写下面这段产品介绍。读者是[第一次接触我们的中小企业财务负责人]，用途是[放在邮件正文里]。
改完要满足这些标准：
1. 读者一分钟内能看懂我们解决什么问题、怎么解决
2. 不超过[200]字
3. 必须保留这些事实：[支持自动对账]、[已服务 300 家客户]，数字不能改
4. 不使用「颠覆」「革命性」「全网最」这类说法
5. 语气专业、平实，像同行推荐而不是广告
交稿时先给改写版本，再逐条说明每个标准是否满足、哪里还拿不准。
[粘贴介绍]
「具体」：把「好」换成明确的目标，例如「让没听过产品的客户一分钟内看懂」 「可衡量」：给出能核对的条件，如字数上限、必须保留的事实、不能出现的说法 「多维度」：同时写出内容、语气、篇幅等几项要求，并让 AI 交稿时逐条自查 为什么值得关注 「再好一点」这种要求只能靠 AI 猜，往往改动很多却不是你要的；把标准写出来，你和 AI 对「完成」的理解才一致，也便于你快速验收。
3
西安交通大学团队的论文提出 Raw-RAG：不对对话历史做任何加工，直接用稠密检索加重排找出原始消息交给阅读模型。在 LoCoMo、LongMemEval、MEME、MemoryAgentBench 上，它在 7 个基准×模型设置中有 6 个排名第一，比最强的对比记忆系统高 0.13–5.53 分。
作者分析认为，必要证据的覆盖率高可以抵消利用率低；有用的证据不只是答案本身，还包括推出答案所需的关系和依赖路径 即使让阅读模型完整访问加工后的记忆库，准确率仍不如直接用原始证据 主实验用 text-embedding-3-small 和 Cohere Rerank-v3.5，附录给出 Qwen3-Embedding-4B 加 Qwen3-Reranker-4B 的开源替代；作者尚未测试更小的阅读模型 代码已在 GitHub 公开 为什么值得关注 给 Agent 加长期记忆前，先拿「原文检索」做基线：它实现简单、不丢信息，复杂的记忆加工要先证明自己比它强。
了解即可
#agent #evaluation #research 已读
论文提出 OpenDS 任务和 OpenDS-World 基准：200 个高难度任务要求 Agent 在真实开放网络上跨多个独立来源搜索、浏览和处理证据，得出唯一可验证的答案，涉及多种信息形态、异构文件格式和需要交互才能访问的页面，证据和答案唯一性经过人工独立核验。
在统一工具环境和执行协议下评测了 12 个前沿模型，最好的准确率为 39.0% 人类在 1000 次独立尝试中的准确率为 21.1% 不同模型在工具使用、搜索成本、何时停止和失败恢复上的策略差异很大，工具协调和长程搜索管理仍是短板 代码已在 GitHub 公开 为什么值得关注 多数深度搜索评测在受控环境里进行，这个基准更接近真实使用；39% 的上限说明「让 Agent 去网上查清楚」的任务，结果仍需要人工核对。
了解即可
#reasoning #fine-tuning #research 已读
华为诺亚方舟实验室等团队的论文追踪了开源模型训练过程中「wait」这一自我反思标记的来源。结论是：RL 带来的准确率大幅提升并不依赖这个词，它主要来自训练数据，而非由 RL 「发明」出来。
对本身不用该标记的基座模型做 Zero-RL，MATH-500 准确率大幅上升，但标记几乎没出现 OLMo-3 的中期训练和在推理轨迹上的微调，让多数原本不用该标记的模型学会了它 基座已经使用该标记时，OLMo-3、MiMo 公开的 RL-Zero 配方会放大它，而同一基座上不带 KL 的 GRPO 不会 作者提醒：标记出现频率本身不能说明推理能力来自 RL，用大模型当评委的指标甚至可能把人工标注的趋势判反 为什么值得关注 「模型学会了说 wait 所以学会了反思」是常见说法，这篇论文提醒在评估推理训练效果时，要看准确率等实际指标，而不是表面的语言习惯。
没有符合筛选条件的条目。清除筛选