要闻 值得关注 重点 10月21日 周三 #coding#evaluation#llm

OpenAI 公布低资源编程语言评测:GPT-6 Astra 大幅提升 COBOL 等语言

OpenAI 于 10 月 19 日发文介绍模型在 COBOL、Fortran、Visual Basic 等公开代码较少的语言上的编程能力,并给出两个评测:让模型用指定语言实现兼容 SQLite 的数据库引擎的 MultiLangBench(覆盖 20 种语言),以及要求输出逐字节一致的 COBOL 迁移评测。官方称 GPT-6 Astra 在 MultiLangBench 上平均通过率为 87.4%,GPT-5.6 Sol 为 26.8%。

GPT-6 Astra 在四种低资源语言上通过率大幅提升
GPT-5.6 SolGPT-6 Astra
COBOL10.9%72.1%+61.2
OCaml25.6%85.8%+60.2
Fortran21.4%83.5%+62.1
Visual Basic27.5%89.4%+61.9

MultiLangBench 最高推理强度下的测试通过率,数据为 OpenAI 自报

要点

  • MultiLangBench 分语言通过率(GPT-5.6 Sol → GPT-6 Astra):COBOL 10.9% → 72.1%,OCaml 25.6% → 85.8%,Fortran 21.4% → 83.5%,Visual Basic 27.5% → 89.4%
  • COBOL 迁移评测:GPT-6.1 Sol 低推理强度下准确率 86.6%(GPT-5.6 Sol 为 5.4%),高推理强度下 97.9%
  • 文中提醒:COBOL 定点运算默认截断小数,迁移时改成四舍五入能跑通却会算错金额
  • MultiLangBench 的评测设置与测试集已在 GitHub 开源(Apache 2.0),标准评测使用其中 272 个测试
为什么值得关注

银行、气象等关键系统仍大量依赖老语言,这组数据说明 AI 辅助遗留系统迁移正变得可行;逐字节对比的验收方式也值得自己的迁移项目借鉴。分数均为 OpenAI 自报。

配套实验

已验证 GitHub Actions 实际运行 · Python 3.12.15 · 耗时 不到 0.1s
COBOL 截断 vs 四舍五入:迁移后逐字节对比

参考 OpenAI COBOL 迁移评测中提到的定点运算陷阱,用 Python decimal 模拟一段不带 ROUNDED 的计息逻辑,对比保留截断、改成四舍五入、改用浮点三种迁移写法与参考实现的逐字节输出是否一致。

结论truncate parity=True; round_half_up parity=False (529 rows differ, +529 cents); float parity=False (528 rows differ)

truncate       byte_parity=True  diff_rows=   0/1000 total_delta_cents=+0
round_half_up  byte_parity=False diff_rows= 529/1000 total_delta_cents=+529
float          byte_parity=False diff_rows= 528/1000 total_delta_cents=+528
RESULT: truncate parity=True; round_half_up parity=False (529 rows differ, +529 cents); float parity=False (528 rows differ)
python main.py 查看代码与内网复现步骤 →

来源

Esc
↑ ↓ 选择Enter 打开

分享图

1080 × 1350,适合发到群聊或朋友圈
分享图预览

键盘快捷键

j / k
下一条 / 上一条
o
展开或收起当前条目
Enter
打开当前条目详情
c
复制当前条目链接
s
收藏 / 取消收藏当前条目
/ 或 ⌘K
搜索
1 2 3
切换密度:标题 / 摘要 / 完整
t
切换主题
?
显示本帮助