论文：推理模型爱说「wait」，多半是从训练数据继承的
华为诺亚方舟实验室等团队的论文追踪了开源模型训练过程中「wait」这一自我反思标记的来源。结论是：RL 带来的准确率大幅提升并不依赖这个词，它主要来自训练数据，而非由 RL 「发明」出来。
要点
- 对本身不用该标记的基座模型做 Zero-RL，MATH-500 准确率大幅上升，但标记几乎没出现
- OLMo-3 的中期训练和在推理轨迹上的微调，让多数原本不用该标记的模型学会了它
- 基座已经使用该标记时，OLMo-3、MiMo 公开的 RL-Zero 配方会放大它，而同一基座上不带 KL 的 GRPO 不会
- 作者提醒：标记出现频率本身不能说明推理能力来自 RL，用大模型当评委的指标甚至可能把人工标注的趋势判反
为什么值得关注
「模型学会了说 wait 所以学会了反思」是常见说法，这篇论文提醒在评估推理训练效果时，要看准确率等实际指标，而不是表面的语言习惯。
来源
### [论文：推理模型爱说「wait」，多半是从训练数据继承的]({{URL}})
华为诺亚方舟实验室等团队的论文追踪了开源模型训练过程中「wait」这一自我反思标记的来源。结论是：RL 带来的准确率大幅提升并不依赖这个词，它主要来自训练数据，而非由 RL 「发明」出来。
- 对本身不用该标记的基座模型做 Zero-RL，MATH-500 准确率大幅上升，但标记几乎没出现
- OLMo-3 的中期训练和在推理轨迹上的微调，让多数原本不用该标记的模型学会了它
- 基座已经使用该标记时，OLMo-3、MiMo 公开的 RL-Zero 配方会放大它，而同一基座上不带 KL 的 GRPO 不会
- 作者提醒：标记出现频率本身不能说明推理能力来自 RL，用大模型当评委的指标甚至可能把人工标注的趋势判反
**为什么值得关注**：「模型学会了说 wait 所以学会了反思」是常见说法，这篇论文提醒在评估推理训练效果时，要看准确率等实际指标，而不是表面的语言习惯。
来源：[Inherited, Not Invented: Tracing the Provenance of Wait in Reasoning Models](https://huggingface.co/papers/2610.30882)