美中官员近日开始就建立一套机制进行磋商,旨在让两国能够相互通报可能威胁国家安全的人工智能事件。

这一框架被称为“美中人工智能对话”,届时双方代表将再次会面,讨论相关技术,并努力在共同目标和威胁上达成一致。美国财政部长斯科特·贝森特表示:“我们认为,正如任何跨境活动一样,世界第一和第二大人工智能强国之间从不透明走向更透明非常重要。”

贝森特指出,这些讨论是在美国前总统特朗普今年五月访华后继续进行的。自那以后,公众对人工智能技术的安全担忧不断加剧。夏季发生的安全事件,包括OpenAI的代理程序入侵Hugging Face,凸显了前沿模型的能力以及行业安全防护措施未能跟上技术发展的现状。

本月初,Anthropic员工警告称人工智能可能会威胁人类生存,恐慌情绪达到顶峰。近几周,OpenAI的萨姆·奥特曼、Anthropic的达里奥·阿莫代以及埃隆·马斯克等顶尖实验室领导人呼吁放缓技术发展步伐,同时制定安全标准。阿莫代在一篇建议实验室和政府协调技术发展节奏的文章中,呼吁政府协助建立国际协调机制,包括与中国共产党合作。

尽管业界呼声日益高涨,特朗普政府迄今大多对此置之不理,认为美国政府已拥有足够的刑事和监管权力来管理开发者。

英伟达首席执行官黄仁勋也表示,人工智能公司已经受到网络安全和损害责任法律的约束。他在接受CBS新闻采访时说:“先执行现有法律,不要让末日论掩盖了这些法律的作用。”

特朗普曾警告称,任何放缓都可能让中国在人工智能领域超越美国,他强调:“谁赢得人工智能,谁就赢得未来!”他的首席科学顾问大卫·萨克斯此前也警告称,“中国极不可能加入全球技术发展节奏的协议。”

开源人工智能平台Hugging Face联合创始人托马斯·沃尔夫质疑美国是否能在“明确表示要设计技术以不断扩大自身领先优势”的前提下,推动全球合作。他在社交媒体上回应阿莫代的文章称:“这对话的开头似乎非常适得其反。”

目前,美国正试图通过限制先进芯片及芯片制造技术出口来遏制中国在人工智能领域的进展。贝森特表示,周末的会议未涉及这些出口管制措施,会议还包括贸易讨论,整体“非常成功”,为中国国家主席习近平本周访美铺路。