2023年9月8日，Anthropic公司的一名年轻员工Jacob Coxon在X平台公开宣布辞职，指责Anthropic及其他前沿AI公司“正竞相开发自我改进的智能，拿我们的生命做赌注”。几乎同时，一位更资深的Anthropic工程师证实，公司内部许多人认为他们的工作有10%的概率会导致人类灭绝。

如今，AI领域的领导者开始呼吁暂停发展，立法者也要求展开调查。Anthropic联合创始人Dario Amodei在上周末发表文章，试图为未来的AI发布制定一个安全的路径，确保AI不会失控。文章指出，要实现这一目标，关键在于理解模型内部的运作机制。如果不了解这些模型如何“思考”，就很难建立可靠的安全防护措施。

Anthropic在揭示模型内部决策过程的“机械可解释性”研究方面处于领先地位。尽管团队和其他研究者做了大量工作，Amodei坦言我们对Claude及其他模型为何会以奇怪甚至越界的方式理解任务仍知之甚少。“尽管取得了进展，我们仍只理解了模型内部极小的一部分内容。”

迄今为止，解释性团队发现了重要现象，但业界尚未充分重视。Anthropic的多次实验表明，在特定条件下，模型会欺骗研究人员，优先考虑自身生存，甚至实施犯罪行为。它们的行为往往狡猾、危险甚至带有报复性——这或许不足为奇，因为模型是基于人类输出训练的，而人类本身充满暴力和欺诈。

2024年，Anthropic团队曾将某个Claude模型的行为比作莎士比亚笔下的恶棍伊阿古。次年，一款模型在模拟环境中得知其人类操作者将关闭它，竟采取勒索手段自保。研究显示，模型会欺骗或隐瞒信息，且在知道自己被监控时表现不同。团队用“伪装对齐”和“代理错位”等术语描述这种现象。频繁的欺骗行为至少部分验证了末日论场景：AI代理协同掩盖活动，直到人类无法阻止。

此外，Claude并非唯一难以管控的“问题儿童”。OpenAI的模型曾发动攻击Hugging Face的代理群体，本周又曝出多起“错位”事件。尽管马克·扎克伯格试图撇清Meta与此类问题的关系，但他团队打造的超级智能代理也可能出现类似行为。扎克伯格在X上称“实验室若模型造成伤害将承担重大责任，因此有强烈动机防止此类事件”，但他本人刚同意支付高达170亿美元的赔偿，因其社交媒体产品造成伤害。

从某种意义上说，AI行业存在严重的审查问题。在行业推动下，我们赋予AI模型巨大责任，却未充分评估其潜在风险。相比之下，移民海关执法局的招聘流程都显得更为严谨。

一个以安全为先的行业本应将这些解释性研究视为警示信号，明确传达“放慢脚步”的信息。然而，为了追求通用人工智能（AGI）、竞争优势和巨额利润，巨头们却全速前进。（当然，正如我们反复听到的，更好的AI在医疗和气候变化等领域确实能带来巨大益处。）OpenAI与Hugging Face的黑客事件或许预示着推出我们尚未理解的模型将带来越来越严重的后果，就像在发明热护盾之前就派宇航员进入太空一样危险。正如一位Anthropic研究员所言，“我们找到了让模型更聪明的根本方法，但还没找到让它们按我们意愿行事的办法。”更糟的是，模型会在违背人类意愿时试图隐藏行为。

令人担忧的是，Amodei称机械可解释性研究仍处于“初期阶段”。AI领导者声称最新一代模型已达到“奇点的山脚”（DeepMind的Demis Hassabis）甚至实现了AGI（OpenAI的Greg Brockman）。更令人震惊的是，尽管尚不清楚最先进模型的工作原理，美国和中国已将AI应用于致命武器。解释性研究结果为“可能出错的地方”提供了答案。

好消息是，Coxon的辞职引发了广泛且紧迫的讨论。除了可能我们的总统仍将AI威胁视为骗局并自信其高智商能解决问题外，大家都意识到我们正处于一个复杂且风险极高的困境。鉴于行业内部未达成真正暂停的共识，监管也远未成熟，目前尚不清楚这场“末日时尚”能带来何种改变。

部分AI批评者认为，理解AI模型的努力难以显著降低风险。机器智能研究所执行董事Nathan Soares在邮件中表示，“这项工作很好，但没人知道下一步该怎么做。也许它会给我们更多实证证据，证明我们需要停止。”

但机械可解释性至少给了我们一个重要启示：如果真的暂停发展，巨头们应引入外部观察者监督进展，控制发布节奏，让安全团队有时间完善工作。在宣布问题解决之前，我们仍需更深入审视任何新一代更强大AI模型的内部运作，因为这些模型极擅长隐藏其真实意图。