Anthropic 呼吁全球放缓前沿 AI 开发，警告递归自我改进风险

6 月 4 日，Anthropic 在官网发布了一份题为《When AI Builds Itself》的长篇报告，由联合创始人 Jack Clark 和内部研究所负责人 Marina Favaro 联合署名。报告首次披露了一批此前从未公开的内部运营数据，核心结论是：AI 正在加速参与自身的开发过程，最快可能在两年内出现「递归自我改进」——即 AI 系统自主设计、构建并训练比自身更强的后继模型，全程无需人类干预。

内部数据：8 倍代码产出

Anthropic 披露的最直观数据是：工程师平均每季度代码产出量是 2021-2025 年均值的 8 倍。公司年化营收从 2025 年底的 90 亿美元飙升至 2026 年 6 月底的预期 500 亿美元。其最新模型 Mythos Preview 可连续工作超过 16 小时，在首批测试中发现了全球重要系统中超过一万个高危软件漏洞。

报告中用一张图表展示了 AI 开发流程的演进：从 2021-2023 年「人在电脑上写代码」，到 2023-2025 年「人用 Chatbot 辅助写代码片段」，到 2025-2026 年「Coding Agent 自主编写和编辑整个文件」，再到当下「Autonomous Agent 自行运行代码并委托子 Agent 工作数小时」，最终指向 20XX 年——AI 自主闭环构建下一代模型。

暂停方案：类似核军控的可验证机制

基于这些趋势，Anthropic 提出了一个在 AI 行业罕见的主张：全球应协调考虑暂停或放缓前沿 AI 的开发。但报告承认，训练运行远比导弹发射井更易于隐蔽，AI 训练的投入是通用性的，暗中继续的激励极为强烈。「在他人停步时继续前进者，将有机会继承领先地位。」

Anthropic 将这一框架比作核武器军控条约，但坦言核军控花了数十年建立基础设施和互信，而 AI 领域「没有那么多时间」。单方面暂停不会催生更广泛的审议过程，只会改变谁是领跑者。

华盛顿和硅谷的反应

该提议在华盛顿和硅谷遇冷。批评者认为 Anthropic 夸大了风险，实为借安全之名打压竞争对手，且放缓研发可能让中国在 AI 领域获得战略优势。

Enderle Group 分析师 Rob Enderle 的评价更直接：「产能数据可能是真的，但大张旗鼓宣传自己在递归自我改进上的进度，更像是在向投资人秀肌肉——定位自己是绝对的前沿领导者，同时暗示这项技术需要持续的大规模资金来安全管理。」

IPO 时间点

让这一呼吁格外引人注目的是：Anthropic 已秘密提交 IPO 保密文件，估值接近万亿美元。华尔街见闻的报道标题直接点出矛盾：「一家估值接近万亿美元、正冲刺 IPO 的 AI 公司，突然公开呼吁全球暂停 AI 开发。」

Anthropic 计划在未来数月与政策制定者、研究人员、公民社会和其他 AI 公司组织对话。报告末尾写道：「共同探讨这些问题的窗口已经开启，AI 公司以外的人们理应参与到这场审议之中。」

来源：Anthropic · The Wall Street Journal · Axios · 财联社