数月来,OpenAI和Anthropic等顶级人工智能实验室的高管们不断向政治行动团体投入数千万美元,明显意图在美国中期选举前争取选举候选人的支持。

虽然我们大致了解顶级AI公司已经花费了至少5570万美元,但他们具体的政策立场一直难以捉摸,直到最近才有所揭示。

据《Politico》报道,Anthropic的一组代表正在与立法者就一项关于AI监管的草案语言进行秘密磋商。三位知情人士透露,Anthropic理想中的立法将赋予联邦政府一个“终止开关”,可以关闭任何构成迫在眉睫威胁的AI模型。

但有一个重大限制:政府认定某个模型构成“迫在眉睫的威胁”,必须满足该AI可能导致50人或以上严重伤亡,或造成超过10亿美元的财产损失。此外,只有三类风险会触发干预:释放生物武器、引发灾难性网络攻击,或AI模型脱离实验室控制。

《Politico》解释称,决策将由商务部下属的第三方监督机构作出。如果独立监管机构发现任何即将发布的AI模型符合上述条件,Anthropic的提案要求他们在72小时内向商务部官员报告,随后由商务部决定是否将证据提交联邦法官。

最终,是否允许该AI模型公开发布将由单一法官裁定。如此复杂的条件和政府与第三方的多重参与,显然赋予了AI实验室极大的自主权,这正是他们所期望的。

Anthropic发言人向《Politico》表示:“这项法案代表了我们自六月以来一直向联邦和州立法者倡导的高级AI框架中的提案。这些是我们认为国会应当采取的合理政策。”

更多AI资讯: Anthropic的专家称他们用Claude“解决”了幽默问题