此次会议内容丰富，涵盖了从递归自我改进——即模型能够自我调整代码并无限进步的理念——到类人机器人等多个前沿话题。会议还邀请了计算机领域的传奇人物，包括公钥密码学的共同发明者惠特菲尔德·迪菲（Whitfield Diffie）和因强化学习开创性工作获得图灵奖的安德鲁·巴托（Andrew Barto）。

然而，我带走的最重要的感受是：美中两国应搁置激烈的AI竞争。前沿AI在网络安全和系统性风险方面的问题不容忽视，且越来越强大的自主智能模型可能很快引发混乱，除非全球AI超级大国能够携手合作。麻省理工学院计算机科学家斯蒂芬·卡斯珀（Stephen Casper）在会后通过视频告诉我：“AI是一项全球技术，带来全球利益与全球危害，新能力最终会广泛传播。”

迄今为止，美国主要将中国的AI进展视为经济和国家安全威胁，实施了严格的芯片及制造设备限制，试图阻碍中国开发强大AI的步伐。最近，美国政府还命令Anthropic公司阻止外国人访问其最强模型Mythos和Fable 5，出于国家安全考虑。Anthropic因此撤销了所有用户的访问权限。此前，WIRED曾披露，一家备受关注的公司是与中国有联系的韩国电信巨头。

由北京人工智能研究院主办的这场会议强化了一个观点：如果AI发展过快且不谨慎，美中双方都将遭受损失。随着AI变得更强大、更自主、与日常生活更紧密相连，其被用于网络攻击或发生灾难性失败的风险只会增加。作为全球最先进模型的主要研发者，世界两大AI强国之间的合作显得尤为关键。

卡斯珀指出，研究显示国际合作在应对AI风险方面的益处远超合作带来的国家安全风险。他将当前局势比作美苏在核威胁问题上不得不合作，尽管双方都在竞相囤积核武器。

“几乎所有AI领域的人都同意，AI不需要经历切尔诺贝利式的灾难时刻，”卡斯珀说。

一天的会议专门讨论了更先进AI带来的普遍网络安全挑战，包括AI生成代码的新型漏洞、基于自主工具使用的新攻击方式，以及自动化的社会工程攻击方法。

会后，我采访了上海交通大学的林云教授，他在AI与计算机安全领域有出色研究。林云表示，短期内黑客可能占优，但随着新防御措施的出现，包括AI的新颖应用，防御优势将逐渐恢复。

林云认为，尽管竞争使国际合作复杂化，但合作仍应是优先事项。“如果不同国家对风险有相似认识，就更容易制定共享的安全原则和技术标准，”他说，“关键是找到既能降低系统性风险又不泄露敏感操作细节的合作领域。”

对两国来说，最紧迫的问题或许是如何在开放性与风险之间取得平衡。开放权重模型对研究和创新至关重要，中国的模型在美国也很受欢迎。但随着模型能力提升，确保它们不会帮助黑客发现安全漏洞或被用作网络武器将变得更加困难。

近年来，中国企业在提供高性能开放权重AI模型方面领先，如Moonshot的Kimi、阿里巴巴的Qwen和Z.ai的GLM。美国也通过Nvidia的Nemotron等模型重启了开放权重AI计划。但我们正接近一个转折点，即使是能力较弱的开放模型，如果缺乏安全防护，也可能带来危险。根据专家分析，中国Z.ai最新的GLM 5.2模型已具备前沿的自主智能和编码能力。下一代开放权重AI模型可能与Fable或Mythos一样强大。事实上，本周中国顶尖网络安全公司360安全科技表示，他们开发的AI模型在黑客能力上已可与Mythos媲美。

林云表示，行业需要制定新方法，确保开放模型保持最新、无后门和漏洞，并符合安全标准。

未来的一个迹象是？一位不愿透露姓名的中国领先AI公司内部人士告诉我，安全顾虑是部分先进模型不再开源的原因之一。