Anthropic公司CEO达里奥·阿莫代（Dario Amodei）在周六发表的博客文章《我们必须放缓前沿技术》中写道：“全球步调的协调需要与中国合作，而中国是一个拥有迄今为止最先进人工智能能力的专制国家。”
然而，中国政府和人工智能企业对阿莫代的提议持深刻怀疑态度，这并非因为他们想盲目竞速，也不是不认为人工智能存在严重风险。中国方面认为问题非常简单——他们觉得自己被提出了一个不公平的条件。
技术对冲基金Interconnected Capital创始人、前奥巴马政府白宫工作人员徐凯文表示：“中国的人工智能安全社区正在成长，并且与美国实验室有许多相同的担忧。分歧在于，Anthropic领导的愿景是先限制中国以最大化杠杆作用，然后才谈合作；而中国则只愿意在被平等对待的前提下进行对话。”
阿莫代提出，放缓人工智能发展的关键策略之一是确保美国及其他民主国家在人工智能领域保持对中国等专制国家“尽可能大的领先优势”。为此，他建议美国采取措施打击芯片走私，防止中国企业未经授权进行模型蒸馏。
亚洲协会政策研究所中国分析中心高级研究员、斯坦福以人为本人工智能研究所数字研究员Alvin Wang Graylin指出：“他的文章明确表示放缓人工智能发展的前提是扩大对中国的领先优势，这让中国读者觉得提议不真诚。”
阿莫代甚至提出一个看似大胆的逻辑跳跃：削弱中国的人工智能产业将为美国带来更多杠杆，从而“使未来达成协议的可能性更大”。但他并未解释这如何能吸引北京坐上谈判桌。（值得一提的是，阿莫代后来在电视采访中承认自己“根本不知道如何与中国谈判”。）
中国政府官员、人工智能研究人员及其他知名评论员回应阿莫代时，并未否认人工智能存在风险，但他们明显反感被同时视为重要治理伙伴和需要被限制的竞争对手。
中国外交部发言人郭佳坤在周一的新闻发布会上直言不讳地批评该提议是“制造恐慌、对抗和恶性竞争”，只会阻碍全球人工智能合作。次日，外交部还强调“中方在人工智能发展和安全方面同等重视”。
这种复杂的回应反映出北京对Anthropic CEO警告的接受度低于其他受众的另一原因。与硅谷许多最激烈的声音不同，中国领导层并不主要担心人工智能带来的所谓“存在性风险”，比如失控智能体可能毁灭人类。北京更担忧的是人工智能可能扰乱国内社会稳定，威胁中国共产党的执政地位。
新美国安全中心（CNAS）国家安全与人工智能访问学者聂美雪表示：“北京难以完全信任这些呼吁，部分原因是对实现通用人工智能（AGI）的可能性持怀疑态度，也对人工智能带来极端风险的叙事持怀疑。虽然北京开始认识到失控风险，但最担心的是人工智能对中共统治的威胁。”
中国国家安全部长陈一新在近期一篇文章中警告，人工智能可能助长政治虚假信息、网络攻击、间谍活动、社会动荡及新的军事威胁。他对末日场景的关注远不及美国前沿人工智能实验室的关注度。
聂美雪指出：“中国政策制定者倾向于将美国公司的人工智能安全呼吁视为工具性行为，认为美国企业是在为潜在的首次公开募股（IPO）抬高自身价值，或是试图拖慢主要竞争对手——目前主要是中国企业的发展速度。”
这种怀疑态度也普遍存在于中国人工智能行业内部，该行业普遍专注于发布成本较低、开放权重的模型。DeepSeek的一位研究员在周日发表的广泛传播的文章中表示，他认为人工智能可能将人类社会推向两种极端之一：一是强大人工智能广泛可用，提升生活水平；二是少数科技公司控制最先进系统及其资源，使其他人更难赶超。
这位DeepSeek工程师写道：“这就是为什么我仍然相信最先进的智能应该以开放且廉价的方式向所有人开放。我不信任Anthropic或OpenAI会做到这一点，尤其不希望Anthropic控制最先进的人工智能或通用人工智能。”
这并不意味着美中在人工智能安全领域的合作注定失败。据报道，两国已在中国国家主席习近平计划本月晚些时候访美与美国总统会晤前展开初步谈判。
尽管进展可能有限，但仍有诸多理由对这些讨论抱有希望。两国政府都对一些共同关切表达了担忧，包括网络安全威胁、强大模型的滥用，以及越来越强大的人工智能系统可能出现意外行为的可能性。
聂美雪表示：“双方都有真正关心人工智能安全的人士，可能会在有限范围内进行真诚讨论。”她认为，推动进展的关键可能是设计出可信的机制，确保双方都遵守承诺。
不过，也有人担心阿莫代及其他美国科技领袖关于削弱中国的言论可能破坏外交谈判所依赖的脆弱信任。人工智能安全非营利组织MATS Research研究员Kristy Loke认为，阿莫代的呼吁最终可能适得其反。“达里奥正在破坏他声称认真对待的风险减少的少数可用杠杆之一。”
