理念与讨论 了解即可 10月21日 周三 #rag#safety#evaluation

5 万页 AI 编造的统计数据被 LLM 反复引用:检索不等于排名

Peec AI 的 GEO 研究员 Metehan Yesilyurt 公开了一个实验:他用 GPT-4.1 一天生成 5 万个未经核实的统计数据页面,总花费约 50 美元。网站在 Google 上的曝光很快被削减,却被 ChatGPT 等工具反复检索引用,这些虚假数字还出现在一篇学术论文和一份投资研究报告中。

要点

  • Cloudflare 日志显示近 30 天有超过 60 万次爬虫请求,其中约 7.2 万次来自实时取页回答问题的 ChatGPT-User
  • 作者观点:LLM 的检索会改写查询、重排并只打开少数页面,带具体数字和年份的统计页天然容易被选中,而模型很少核实
  • 风险视角:一个假数字每被机构引用一次就更「可信」,可能进入后续网页抓取和训练数据,即「引用洗白」
  • 作者表示发布虚假内容是错误的,分享是作为研究而非操作手册,网站已加免责声明
为什么值得关注

做 RAG 和联网搜索的团队不能把「被检索到」当作「可信」,需要来源评级和交叉核实;写作和研究时引用 AI 给出的统计数字,也应追溯到原始出处。

来源

Esc
↑ ↓ 选择Enter 打开

分享图

1080 × 1350,适合发到群聊或朋友圈
分享图预览

键盘快捷键

j / k
下一条 / 上一条
o
展开或收起当前条目
Enter
打开当前条目详情
c
复制当前条目链接
s
收藏 / 取消收藏当前条目
/ 或 ⌘K
搜索
1 2 3
切换密度:标题 / 摘要 / 完整
t
切换主题
?
显示本帮助