理念与讨论 了解即可 10月25日 周日 #ai-collaboration#safety#research

一篇借助 AI 写的图书馆学论文,引用了根本不存在的文章

TorrentFreak 发现,Taylor & Francis 旗下期刊 New Review of Academic Librarianship 刊登的一篇讨论 Z-Library 的论文,引用了一篇 TorrentFreak 从未发表过的文章;44 条参考文献中至少 10 条无法找到。论文致谢中写明使用 Consensus AI 筛选文献、用 ChatGPT 润色语言。出版方称已交由编辑和出版伦理团队调查,尚未决定是否更正或撤稿。

要点

  • TorrentFreak 指出 AI 聊天机器人常编造看似合理的引用,但这不能证明这些引用就是 AI 写的
  • HN 讨论中一方认为责任在作者没核对引用,另一方认为同行评审和学术出版本来就有问题,AI 只是放大了它
  • 也有人认为 AI 公司应对输出负责,宣传「可依赖」本身就有害;还有人讨论用「投毒」内容对抗爬虫,引来不同意见
为什么值得关注

用 AI 做文献检索和写作已很普遍,这个案例说明「每条引用都要打开核实」不能省;对机构来说,审稿流程也需要专门检查引用是否真实存在。

来源

Esc
↑ ↓ 选择Enter 打开

分享图

1080 × 1350,适合发到群聊或朋友圈
分享图预览

键盘快捷键

j / k
下一条 / 上一条
o
展开或收起当前条目
Enter
打开当前条目详情
c
复制当前条目链接
s
收藏 / 取消收藏当前条目
/ 或 ⌘K
搜索
1 2 3
切换密度:标题 / 摘要 / 完整
t
切换主题
?
显示本帮助