Anthropic过去五年一直在警示世界，先进的人工智能可能带来大规模破坏、社会动荡以及其他严重危害。然而，与此同时，它也成为推动AI能力发展的最强大力量之一。该公司现已成为顶尖的AI模型开发和分发者，客户包括美国军方，最近估值接近1万亿美元。

乍一看，Anthropic的严肃警告与其实际行动似乎存在根本矛盾。但公司内部许多人并不认为这是矛盾。要理解原因，首先需要明白Anthropic基于两个核心信念运作。第一，人工智能是人类历史上最具变革性的技术，其到来不可避免，真正的问题是它会导致灾难还是带来非凡繁荣。

第二，Anthropic相信如果自己能保持在AI竞赛的前沿，世界将变得更好。多位前员工透露，公司内部领导和员工常自称为“好人”，即负责任地管理AI技术的群体。公司视积累资本、计算资源、研究人才和政治影响力为实现使命的代价，而非目的本身。其使命是“确保世界安全地完成通过变革性AI的过渡”。

乔治城大学安全与新兴技术中心执行主任、前OpenAI董事Helen Toner用一个比喻描述Anthropic的世界观：强大的AI就像一片森林，里面既有神奇的宝藏，也有危险的怪物。周围的村民都被宝藏吸引纷纷进入，而Anthropic希望比任何人都走得更远，同时投入大量资源驯服怪物——即在捕获AI益处的同时控制其灾难性风险。

“Anthropic的独特之处在于他们认为‘人们无论如何都会进入森林，我们必须先进去。’这就是他们的明确策略：打造尖端AI，成为讨论AI系统应有形态、风险及推动合理保障的关键力量，”Toner说。“他们对此非常坦率，只是这个策略太奇特，以至于外界难以理解。”

Anthropic CEO达里奥·阿莫迪（Dario Amodei）在公司招聘页面与联合创始人的对话中明确阐述了这一方法：“你必须找到一种既能竞争、在某些情况下引领行业，又能安全行事的方式。如果能做到这一点，你的影响力将非常巨大。”

Anthropic成立于2021年，由一群前OpenAI员工创立，他们因对OpenAI领导层，尤其是CEO Sam Altman在安全引入变革性AI方面失去信心而离开。这种情绪至今影响着公司。两位前员工表示，Anthropic高管在内部讨论中常将Altman和OpenAI，以及Meta和Elon Musk的xAI作为警示案例，帮助塑造自身的责任感。

在许多方面，Anthropic与其他硅谷公司无异。许多创业公司都将自己定位为挑战行业巨头的“大卫”。谷歌、Facebook和苹果最初都基于理想主义原则成立，随着规模和影响力扩大，这些原则往往被淡化甚至放弃。

但前员工称，Anthropic在对使命的信念和明确告知员工技术与商业力量是实现使命手段方面尤为强烈。一位前员工说，面试时公司强调自己不是典型受市场驱动的企业，而是受公共利益结构管理，优先考虑“人类长期利益”高于利润。但公司认为实现财务成功和打造最强AI模型是实现这一目标的前提，是引领行业安全的责任所在。

“我们没人想创办公司，只觉得这是我们的责任，”联合创始人兼首席架构师Sam McCandlish在公司招聘页面的对话中说。“我们必须做这件事，这就是我们让AI变得更好的方式。”

Anthropic拒绝对此报道发表评论。

“好人”困境

Anthropic官网宣称自己是“高信任、低自负”的组织，内部政治较少，前员工普遍认为这一描述较为准确。他们表示，相较于其他AI实验室领导，员工普遍信任阿莫迪会如实告知公司技术进展、与政府官员的互动及地缘政治观点。

但思想多样性有助于问责。UCLA博士后学者Shazeda Ahmed研究AI安全运动的意识形态起源，指出像Anthropic这样的组织往往缺乏多元化思维。她的研究发现，AI安全运动根植于有效利他主义等亚文化，思想趋同且倾向自我管理。

“当你周围都是持相同信念的人时，你的观点不会被挑战，”Ahmed说。“当成功的衡量标准是‘我在多大程度上践行了这些意识形态信念’，他们往往不会考虑，如果我们不是合适的人掌握这么大权力，可能会出错——他们不总是审视自己的盲点。”

一位前员工称，Anthropic内部有活跃的辩论文化，员工批评常引发领导层的详细回应。

但另一位前员工描述的情况较为严峻，坦率批评多局限于私下群聊，鲜少直接挑战阿莫迪的决策。他们形容公司定期的全员会议“Dario Vision Quests”更像是“听神父讲道”。

2024年秋，Anthropic成为首个与Palantir合作为美国情报和国防机构提供AI服务的实验室，引发内部争议。部分前员工称内部曾质疑该合作，但未导致政策改变。

当时，Anthropic员工Evan Hubinger在LessWrong论坛发文称，公司对Palantir合作“极为坦诚”，虽然有些界限需谨慎对待，但总体是积极发展。“如果认真对待AI灾难风险，美国政府是极其重要的合作方，试图阻止其使用AI不可行。”

不到两年后，五角大楼据报开始使用Anthropic的Claude模型执行如以色列-伊朗战争中的打击目标识别等任务。阿莫迪在接受彭博采访时被问及Anthropic模型是否参与了导致120多人死亡的伊朗小学袭击，他表示不知情，但只要有人类做最终决策，这种使用是被批准的。这凸显了Anthropic对负责任AI的愿景与公众看法可能存在差异。

Anthropic对Claude模型的使用限制在其他场合也引发关注。

本月初，Anthropic发布了最新AI模型Claude Fable 5，内置一项不友好的安全措施：若研究人员试图将其用于前沿AI开发（违反服务条款），公司将秘密破坏其工作。此举遭业界研究者批评，几天后Anthropic宣布将公开该安全措施，称未把握好平衡，目的是阻止美国的外国对手。

权力斗争

阿莫迪本人公开承认，过多权力集中在少数AI实验室手中存在风险，包括他自己的公司。“作为AI公司CEO说这话有点尴尬，但我认为下一个风险层级其实是AI公司本身，”他今年早些时候在一篇文章中写道。但他建议的解决方案——“对AI公司进行严格监督”并可能要求其公开承诺“不采取某些行动”——并未实质性重新分配权力。

文章中，阿莫迪反复思考自身影响力的巨大和随之而来的责任，但他更多将其视为全人类的问题：“人类即将获得几乎难以想象的力量，但我们的社会、政治和技术体系是否成熟以驾驭它，尚不明确。”他强调，“最接近技术的人有责任坦率告知人类所处的境况，我一直在努力做到这一点。”

对Anthropic立场的常见批评是，公司认为自己比他人更了解“人类所处的真实状况”。它视AI为极其强大但终可治理的技术，只要由合适的人领导其发展。但事实是，没有人确切知道AI将如何改变世界——只是有些人拥有更多发言权。