围绕法案SB 3444的争论,揭示了Anthropic与OpenAI在AI技术监管上的分歧。尽管AI政策专家认为该法案成为法律的可能性较低,但它暴露了两大美国领先AI实验室之间的政治分歧,随着两家公司在全国范围内加强游说活动,这种分歧可能变得更加重要。
据知情人士透露,Anthropic一直在游说该法案的发起人、伊利诺伊州参议员Bill Cunningham及其他州议员,要求对法案进行重大修改或直接废止。目前,Anthropic发言人在给WIRED的邮件中确认了公司反对SB 3444的立场,并表示与Cunningham就将该法案作为未来AI立法起点进行了积极对话。
Anthropic美国州及地方政府关系负责人Cesar Fernandez在声明中表示:“我们反对这项法案。良好的透明度立法应确保公众安全和对开发这项强大技术公司的问责,而不是为它们提供免责卡。我们知道Cunningham参议员非常关心AI安全,期待与他合作,推动将透明度与切实问责结合起来,以减轻前沿AI系统可能带来的最严重危害。”
Cunningham的代表未回应置评请求。伊利诺伊州州长JB Pritzker的发言人表示:“州长办公室将持续关注和审查众议院通过的多项AI法案,但州长认为大型科技公司不应获得完全免责的保护,逃避其应承担的保护公众利益的责任。”
OpenAI与Anthropic在SB 3444上的核心分歧在于,AI引发灾难时应由谁承担责任——这是美国立法者近期才开始面对的潜在噩梦场景。若SB 3444通过,AI实验室若制定并公开了自身的安全框架,即使其AI模型被恶意利用制造生物武器导致数百人死亡,也无需承担责任。
OpenAI认为,SB 3444在降低前沿AI系统严重伤害风险的同时,“仍允许这项技术进入伊利诺伊州的个人和企业手中,无论大小。”这家ChatGPT开发商表示,已与纽约和加利福尼亚等州合作,推动所谓的“统一”AI监管方法。OpenAI发言人Liz Bourgeois称:“在联邦层面缺乏行动的情况下,我们将继续与包括伊利诺伊州在内的各州合作,推动一致的安全框架。我们希望这些州级法律能为国家框架提供参考,确保美国继续领先。”

而Anthropic则主张,开发前沿AI模型的公司应至少对其技术被用于造成广泛社会危害承担部分责任。
部分专家认为,该法案将削弱现有法规,降低对企业不当行为的威慑力。Secure AI Project联合创始人兼高级政策顾问Thomas Woodside表示:“普通法下已有责任制度,为AI公司采取合理措施防范可预见风险提供了强大激励。SB 3444几乎消除了对严重伤害的责任,这是一种极端做法。削弱责任制度是不明智的,因为在大多数州,这已是对AI公司最重要的法律问责形式。”
上周,Anthropic支持了另一项伊利诺伊州法案SB 3261,该法案若通过,将成为全国最严格的AI安全法律之一。该法要求OpenAI和Anthropic等前沿AI开发者制定公共安全和儿童保护计划,并通过第三方审计评估其有效性。
Anthropic成立于五年前,由一批OpenAI前员工创立,以公开表达对先进AI潜在风险的担忧并倡导防范措施著称。这一立场多次使其成为特朗普政府的攻击目标,后者试图限制可能阻碍AI发展的州级监管。前特朗普政府AI及加密事务负责人David Sacks去年曾在社交媒体上批评Anthropic“基于恐慌制造的复杂监管俘获策略”。
更新于2024年4月14日11:35(美国东部时间):本文新增了伊利诺伊州州长JB Pritzker办公室的声明。


