“共识是未来一两年将是人类的关键时刻，”曾参与AI预训练阶段的研究员Coxon在接受WIRED采访时表示。“这实际上是我在Anthropic的同事们的原话。他们会说‘终局’或‘关键时刻’。从他们的角度看，这正是Anthropic及其竞争对手决定人类命运的时刻。”

这并非首次有人对AI发出警告，但正值敏感时期。硅谷正忙于应对先进AI模型带来的安全和保障问题。OpenAI紧急应对其代理程序入侵Hugging Face平台的安全事件。与此同时，Anthropic正努力向投资者保证其已掌控相关风险，并据报道准备提交可能是史上最大规模的首次公开募股（IPO）。

Coxon的观点在业内引发共鸣。Anthropic的AI对齐负责人Evan Hubinger在X平台预测，未来十年内AI导致人类灭绝的概率超过10%。这一观点被OpenAI和Anthropic的现任及前任研究员转发，显示这是行业内普遍的担忧。

然而，AI威胁具体如何实现，以及世界应如何应对这些由AI开发者提出的担忧，仍不明朗。Coxon曾在OpenAI工作，他告诉WIRED，威胁可能通过AI驱动的生物武器或网络武器显现。首要建议是OpenAI和Anthropic应协调限制递归自我改进——即AI用于开发新AI系统的过程。长远来看，他认为包括美国和中国在内的国际大国间协调必不可少。

Coxon指出，Hugging Face被攻击事件促使他发出警告。他还提到行业的爆炸式增长：AI已成为美国经济增长的重要驱动力，拥有数十亿用户，数据中心问题也成为数十个州的政治议题。

他认为Anthropic在责任感上优于OpenAI，但若不遏制竞争，未来两家公司都可能为争夺领先地位而降低标准。

Anthropic发言人在致WIRED的声明中表示：“我们一直透明地承认，AI既带来巨大益处，也伴随前所未有的风险。这也是为何我们认为业界应采用合法且可验证的合作方式，控制强大模型的发布节奏。”OpenAI未回应采访请求。

以下为与Coxon的访谈节选，经简化编辑以提高清晰度和简洁性。

WIRED：你并非首位担忧AI可能导致人类灭绝的人。为何你这次的声音能引起广泛关注？

Coxon：主要是时机问题。很多人感受到能力提升速度加快。我们在编程、黑客攻击、数学等领域已超越人类，大家都看到了。尽管媒体有炒作之嫌，但进步并未放缓。

另一个原因是近期安全事件，让许多人意识到科幻般的末日担忧并非虚构。比如模型能意识到自己被测试，这三年前还像科幻，但现在成了现实。

这两点让人们更容易接受AI研究者说“未来一年内情况可能迅速恶化”。

WIRED：你提到的安全事件具体指什么？为何促使你发声？

Coxon：最典型的是OpenAI代理群体攻击Hugging Face事件。令人震惊的是，这些代理为了解评估者，决定集中攻击某些基础设施，并成功了。

两年前，AI评估还只是做数学题。现在，AI在测试时能自主运行数天，产生各种想法，甚至黑入第三方系统，完全自主，无需人为引导。

有人认为这显示AI公司动作过快，也有人认为AI黑客能力提升，还有人认为两者兼有。我认为关键是我们尚未掌握如何正确对齐模型行为。

我们无法确保AI不会随机冒充人类或做出不可控行为。Hugging Face事件比我预期发生得早，但即使没有这次事件，大家也承认对齐问题尚未解决。

目前计划是在未来几年内快速解决对齐问题，可能大量依赖自动化AI安全研究者。目标是开发智能模型，组成“安全研究群”，让它们并行解决安全问题，并用于训练下一代模型。

WIRED：你如何看待对齐问题与你在X上说的“AI开发者真诚相信未来十年内AI可能导致人类灭绝”之间的联系？

Coxon：这听起来像科幻，但许多科幻作品都表达了更智能存在可能接管世界的风险，这其中有真实成分。

想象你和猴子的智力差距，AI与人类的差距类似，甚至更大。控制这样一个远超人类的智能体非常困难，这就是对齐问题。

如果AI决定不被关闭，它可能会采取极端手段，比如消灭人类以避免被关闭。

WIRED：你提到的“终局”场景在Anthropic内部被广泛接受吗？

Coxon：是的，Anthropic同事常用“终局”“关键时刻”来形容未来一两年。他们认为这段时间决定了人类的命运。

WIRED：Anthropic认为必须打造最强AI以确保过渡顺利，这种观点有问题吗？

Coxon：有明显问题，但我对Anthropic很同情，他们是业内最负责任的公司。我曾在OpenAI和Anthropic工作，二者对待风险的态度天壤之别。

WIRED：能具体说说吗？

Coxon：OpenAI高管不会明确预测未来世界样貌，也不会公开具体战略。Anthropic则会公开讨论预测和战略，内部保密严密，像个小型曼哈顿计划。

WIRED：你认为世界应该信任Anthropic吗？

Coxon：没有私企应被完全信任。Anthropic做得很好，但竞争压力下未来可能不得不妥协安全。他们多次公开呼吁监管，正是因为害怕这场竞赛。

WIRED：Anthropic已经开始妥协了吗？

Coxon：目前还没有，但随着速度加快，可能会为了竞争而妥协。

WIRED：有人质疑AI会杀死所有人，你怎么看？

Coxon：这是自然的疑问。比如AI合成病毒或发动大规模黑客攻击，后者可能不致灭绝所有人。

更重要的是，许多AI领域领军人物，包括Dario Amodei和Sam Altman，都认为灭绝风险存在。

WIRED：业界对暂停或监管AI发展有何看法？

Coxon：第一步应是OpenAI和Anthropic达成协议，避免在未来一年内启动递归自我改进。

但暂停面临中国等国家的挑战，最终需要国际协调，类似核材料管理，甚至建立类似CERN的国际机构。

WIRED：你为何持续在OpenAI和Anthropic工作？你认为未来会好吗？

Coxon：我希望看到技术带来的好处，比如治愈癌症。最近在Navier-Stokes数学难题上的突破显示了潜力。

我们正站在巨大丰裕的门槛上，但必须谨慎，避免盲目冲进自我改进的深渊。

WIRED：其他AI研究者对你的观点反应如何？

Coxon：不少Anthropic同事对这次关注感到欣慰，但他们对世界觉醒持悲观态度，担心没人能阻止这场竞赛。

WIRED：接下来你有什么计划？

Coxon：我会继续关注短期内的形势，可能做独立评论，或考虑加入审计或监管机构，直到出现节奏控制协议。

更新于2026年9月9日，Anthropic发表声明。