英国商业、创新、科学与贸易委员会近日召开听证会,邀请了四家领先的人工智能公司代表、四名前员工举报人以及高级政府官员出席,讨论AI安全监管问题。

Anthropic欧洲负责人Liam Booth-Smith在会上表示,公司坚信应制定具有约束力的法规,单靠自愿承诺远远不够。他强调:“规则必须具备法律约束力。”

OpenAI副总裁Tom Duff Gordon则持谨慎但支持的态度,支持建立法定框架和国际公约。他指出,至少应强制要求事故报告,并认为“仅依赖自愿承诺来应对前沿风险并非长远之计”。

然而,谷歌DeepMind的Owen Larter和Meta的Rob Sherman则不支持法定框架。Larter表示应聚焦于制定标准,Sherman则提到英国已有监管机构,强调监管并非从零开始。

此次听证会揭示了AI监管领域的分歧,英国议会记录了这些科技巨头之间的不同观点。委员会主席Liam Byrne表示,目的就是揭示这些全球最富有公司的巨大分歧,证明不能依赖自我监管。

就在听证会附近,英国安全局局长Ken McCallum发出警告,称AI可能被滥用于生物武器,带来重大威胁。他指出:“虽然尚未实现,但AI可能改变现有或新型生物武器的威胁格局。”

对此,Byrne评论说:“安全局局长警告生物恐怖主义能力大幅提升,而内阁办公室常务秘书却承认我们的AI监管体系是自愿性质,这说明了一切。”

听证会后半段,政府官员坦承现有体系缺乏强制力。英国AI安全研究所(AISI)会在模型发布前进行测试,但前提是企业自愿提交。AISI负责人Henry de Zoete承认,机构完全依赖企业和外国政府的合作才能获得模型访问权限。内阁办公室高级官员Cat Little也确认目前监管体系是自愿的。

当被问及如果AISI判定某模型过于危险但企业仍发布时如何应对,de Zoete表示机构无权阻止。他说:“我们不做安全认证,也不对任何模型说‘是’或‘否’。这些公司大多是美国或中国企业,英国能做的有限。”

此外,OpenAI的Duff Gordon透露,英国的AISI访问权实际上通过美国的CAISI获得。他表示只要美国政府允许,OpenAI会继续向英国提供模型。

Anthropic的Booth-Smith也坦言,曾因美国政府限制,无法向英国AISI提供Mythos 5.1模型的完全访问权限,但目前已获得访问。

四名前实验室研究员也在听证会上发言。前OpenAI员工Daniel Kokotajlo表示不信任企业自我监管。Steven Adler对行业安全文化缺乏信心。Geoffrey Irving认为实验室陷入了无法停止的竞赛,但他强调这两点都是错误的,企业完全可以停止竞赛。

听证会后,Byrne表示委员会将重点研究英国作为中等大国在AI领域的未来路径。他希望英国利用即将到来的G20主席国身份,与随后担任主席的韩国共同推动一项不依赖当前美国政府的国际公约。他说:“G20主席国任期将超过特朗普时期的美国总统任期。”

他还强调:“风险增长速度远超我们的安全监管能力。”