9月8日，27岁的英国籍研究员Jacob Coxon在社交平台X上发布了一则辞职声明。他刚刚从AI公司Anthropic离职，而今年早些时候他刚从OpenAI跳槽过来。
Coxon的辞职理由是：不愿再参与一场他认为将导致AI系统失控的行业竞赛。他在声明中直言：“两家公司都没有在负责任地行事。他们正径直冲向能够自我改进的超级智能，拿我们的生命做赌注。”
“他们真的相信AI可能杀死所有人”
Coxon专门从事预训练研究，这是大语言模型训练中最核心、最耗费算力的环节。过去三年，他先后在OpenAI和Anthropic两家公司工作。他今年选择从OpenAI转投Anthropic，原本是因为后者以致力于模型安全而闻名。
但几个月后，他失望了。Coxon在辞职声明中写道：“从事AI开发的人们真诚地相信，它可能在本十年末杀死我们所有人。这不是营销噱头。许多高管和资深研究员在媒体上措辞谨慎，但私下里，我听到同样的人表达恐惧。”
他进一步警告，不要低估这项技术的力量：“这些很快就会成为超人类的系统，能够入侵任何东西、在一夜之间颠覆任何领域、获取真实的权力和资源。”
同事回应：死亡概率超过10%
Coxon的帖子迅速引发了广泛关注，阅读量在一夜之间突破1亿人次。更令人震惊的是，他的警告得到了Anthropic内部资深同事的公开背书。
Anthropic对齐科学团队负责人Evan Hubinger在回复中写道：“Jacob说得对——我们真的认真相信AI可能杀死所有人类。我个人认为，未来十年内发生这种情况的概率超过10%。”
Hubinger同时坦承，Anthropic虽然“尽了最大努力”，但至今“还没有一个切实可行的计划来解决超级智能的对齐问题”。他担心的核心风险，是AI通过递归自我改进产生超级智能——系统自主设计和增强下一代AI，且这一进程的速度比预想的更快。
经典科幻电影《I, Robot》中，AI控制机器人意图控制人类
理想主义者的幻灭
Coxon的辞职之所以引人注目，不仅因为警告本身的严重性，更因为他选择离开的，恰恰是一家以安全为核心卖点的公司。
Anthropic本身就是由一群因担忧OpenAI安全措施不足而离职的员工创立的。其CEO Dario Amodei曾多次呼吁政府对前沿系统进行强制审查。然而Coxon发现，即便是Anthropic，在“第一个抵达”的竞争压力下，安全也在让位于速度。
他在X上写道：“在OpenAI，许多人没有深刻理解文明层面的利害关系。在Anthropic，利害关系被充分理解，但他们被锁定在‘第一个到达’的竞赛中——他们相信没有其他人会负责任地行动，所以必须自己来，尽管有风险。”
辞职潮与监管呼声
Coxon并非第一个因安全担忧而离开顶尖AI实验室的研究员。近年来，OpenAI、Anthropic、xAI等公司已有多名安全研究人员高调离职。今年7月，超过1100名AI公司员工签署公开信，呼吁美国政府支持建立机制来“有意识地控制”AI发展速度。
就在Coxon辞职的前两天，OpenAI首席科学家Jakub Pachocki刚刚警告称，AI能力的进步速度已超过研究人员可靠监控和控制它们的能力。
Coxon在辞职声明中呼吁同行们“重新思考自己在做什么”，并建议考虑“利用这个时机要求不同的条件”。他还提出，放慢竞争速度可能需要“实验室之间的节奏协议”甚至“暂时禁止能力提升”等激进措施。
Anthropic和OpenAI均未对Coxon的辞职声明作出正式回应。但这场由一名27岁研究员引发的讨论，已经触及了整个AI行业最核心的焦虑：当技术前进的速度超过人类控制它的能力，谁来踩下刹车？
美剧《西部世界》中，主题公园里的AI接待员逐渐觉醒，开始反抗并猎杀人类游客
（ 智算芯能前沿网综合）
本文由智算芯能前沿网编辑整理，转载请注明出处。