AI 幻觉引用正在大规模污染学术文献

《自然》杂志与 Grounded AI 的最新调查揭示了一个正在加速恶化的问题：生成式 AI 制造的"幻觉引用"正大规模渗入学术出版体系。

一个被"引用"的牙科论文

今年早些时候，法国图卢兹大学的计算机科学家 Guillaume Cabanac 收到 Google Scholar 的通知：他的一篇论文被《International Dental Journal》引用了。但 Cabanac 的研究方向是识别伪造论文，和牙科毫无关系。他查了那条引用——标题像他 2021 年发的一篇预印本，但期刊被标为 Nature，DOI 也指向了错误地址。

"我完全认不出自己的引用。"Cabanac 说。他立刻怀疑这是 AI 的幻觉。

问题有多严重

多项独立分析指向同一趋势：

• 针对近 1.8 万篇计算机科学会议论文的分析发现，2024 年含虚假引用的论文占比约 0.3%，2025 年飙升到 2.6%
• 另一项针对四个 CS 会议的分析估计，2025 年 2%-6% 的论文包含无法验证的引用
• 《自然》与 Grounded AI 的合作分析认为，2025 年至少有数万篇出版物（含期刊论文、书籍和会议论文）含有 AI 生成的无效引用

"Frankenstein"引用

研究者发现，AI 生成的虚假引用并非完全凭空捏造。Grounded AI 的联合创始人 Joe Shockman 将其称为"Frankenstein"引用——像科学怪人一样，由真实论文的片段拼装而成。期刊名可能来自一篇真实论文，作者名来自另一篇，DOI 可能指向第三个完全不同的来源。

对人类审稿人来说，这种拼装引用的欺骗性极高，因为它包含足够的真实细节来通过表面审查。

出版商的反应

五大出版商（Elsevier、Springer Nature、Wiley 等）均已受到影响。一些期刊的拒稿率因此大幅上升：

• 《Review of International Political Economy》的联合主编 Alison Johnston 今年 1 月拒掉了约 100 篇投稿中的 25%，原因是虚假引用
• Frontiers 开发了内部 AI 工具来筛查投稿中的引用问题，发现约 5% 的稿件存在潜在引用异常

此外，一项用 GPT-4o 生成六篇心理健康领域文献综述的实验显示，生成的 176 条引用中，近 20% 完全捏造，剩余 45% 含有 DOI、年份等细节错误。

能否跑赢军备竞赛

多家出版商正紧急引入 AI 筛查工具，通过校验 DOI、标题和数据库匹配度来拦截问题稿件。但一个现实问题是：用 AI 检测 AI 伪造的引用，本质上是一场攻防博弈。而随着更多研究者将 LLM 整合进写作流程，问题的规模大概率继续扩大。

俄勒冈州立大学的政治学家 Alison Johnston 的判断很直接："我们将看到虚假引用的洪水。"