“2025年聚焦透明度的安全法案是一个重要的开端，但随着AI系统能力的快速提升，政策响应也必须跟上，”Anthropic美国州及地方政府关系负责人Cesar Fernandez在接受WIRED采访时表示。“我们认为，对于最强大的AI系统，仅靠透明度和自我报告已不足以保障安全。”

Anthropic是一家估值近1万亿美元的初创公司，支持加强监管的立场显得颇为特别。正如我们之前报道，Anthropic的领导层认为，公司需要基于开发和销售先进人工智能的业务，完成其创立使命：“确保世界安全地实现通过变革性AI的转型。”

随着公司发展，Anthropic开始支持美国一些最严厉的前沿AI监管提案。这些法规旨在降低灾难性AI风险，包括先进模型可能引发金融危机或大规模死亡的风险。

除了加州和纽约的自我报告法案外，Anthropic还支持伊利诺伊州要求AI实验室接受第三方安全评估的措施。最近，该公司也支持马萨诸塞州的政策，要求AI实验室进行第三方审计，并授权州检察长对不合规企业采取禁令措施。

本周我与Fernandez进行了深入交谈，了解公司AI政策的未来方向。Fernandez今年早些时候加入Anthropic，曾任体育博彩巨头FanDuel的美国州政府关系负责人及Uber高级公共政策助理，帮助两家公司在多个州赢得政策斗争。他的经验对Anthropic尤为重要，因为联邦立法进展缓慢，州政府正成为监管主力。

动机质疑

尽管Anthropic的亲监管立场获得AI安全组织、工会及其他盟友的赞赏，但部分硅谷领导者对此持怀疑态度。

前白宫AI负责人、现任特朗普总统技术顾问David Sacks指责Anthropic试图通过推动繁琐法规，限制小型AI初创企业的发展，从而巩固自身在AI竞赛中的领先地位。

Sacks去年在社交媒体上写道：“Anthropic正在利用恐慌策略实施复杂的监管捕获，主要导致州级监管狂潮，损害了初创生态系统。”

Fernandez对此坚决否认，指出Anthropic只支持针对“大型AI模型开发者”的州级法案。虽然各法案对“大型开发者”的定义不同，但通常指的是在AI开发上投入数亿美元、年收入超过5亿美元的公司。“很难想象有初创企业能达到这个门槛。”他说。

然而，在开发竞争性前沿AI模型需要数十亿美元资本的现实下，确实有少数初创企业可能很快达到这些标准。例如，Safe Superintelligence、Thinking Machines Lab和Mistral均已获得数十亿美元投资，尽管其收入远低于Anthropic或OpenAI。这些虽非普通初创，但都是潜在竞争者。

Fernandez的更合理论点是，任何有能力开发强大AI模型的公司都应接受相同监管，因为技术潜在风险相同。他强调，Anthropic的目标之一是“激励开发最安全、最可靠AI系统的竞赛”，这也包括推动政府立法。

“我们的使命是确保美国及全人类顺利过渡到拥有先进AI的世界，”Fernandez说。“如果你是开发强大AI系统的模型开发者，就必须对公众透明，说明你们构建的内容、模型能力及其对关键基础设施的风险，这应是首要任务。”

Anthropic的监管底线

不过，Anthropic认为在联邦监管缺位时，州政府的监管权限应有限。公司上月发布的政策文件建议，政府应有权阻止被认为不安全的新AI模型部署。此建议颇具讽刺意味，因为特朗普政府曾要求Anthropic暂停向外国用户开放其两款最强AI模型，Anthropic对此并不支持。

Anthropic认为，阻止不安全AI模型部署的权力应属于联邦政府，而非州立法者，尽管Fernandez表示这一观点仍在演变中。在特朗普政府下达出口管制指令后，Anthropic将Mythos和Fable 5模型对所有用户下线，公司曾在博客中表示，阻止AI模型部署应通过公平透明的评估程序进行。

Fernandez对Anthropic的联邦政策工作不多透露，但公司在该领域也十分活跃。上月，Anthropic向美国政府举报中国科技巨头阿里巴巴涉嫌“蒸馏攻击”，即通过系统性提示从Anthropic模型中提取信息以开发自家AI工具。一些AI研究者认为这是一种监管捕获，认为Anthropic真正目的是说服美国政府禁止开放权重的中国模型，从而促使依赖这些模型的美国企业转向Anthropic的企业产品。值得注意的是，Anthropic CEO Dario Amodei曾多次警告国会开放源代码AI的风险。

在州级层面，Fernandez表示Anthropic支持的立法并未特别针对开源AI模型。“这更多是关于模型能力，而非模型构建方式。当能力达到一定水平时，应纳入州级监管框架。”

无论你是否相信Anthropic的动机，其在塑造AI政策未来方面扮演着重要角色。其最新模型发布将先进AI的网络安全能力推向国家关注焦点。此前，公司已多年向全国立法者警示先进AI的灾难性风险。

相比之下，美国选民更关心的AI问题，如失业风险、数据中心对社区的影响以及聊天机器人对儿童的影响，尚未引发前沿AI实验室类似规模的立法推动。Anthropic及其竞争对手承诺普通纳税人不会为数据中心买单，并提出应对未来AI驱动失业的方案，但在这些问题上，行业的政治推动力明显较弱。

谈及这一差异，Fernandez表示Anthropic“渴望与立法者就灾难性AI安全风险以外的问题展开对话”，并已“在各州进行相关讨论”。

但目前，这些讨论尚未形成像Anthropic围绕前沿模型存在的生存风险所推动的那种协调一致的州级行动。