美国和中国的人工智能研究人员正呼吁全球合作，担心AI技术的无序发展可能导致难以想象的灾难。

麻省理工学院计算机科学家斯蒂芬·卡斯珀（Stephen Casper）在本月于北京举行的一场重要AI会议上表示：“AI是一项全球技术，带来全球利益，也伴随全球风险，而且新能力最终会广泛传播。”他补充说：“几乎所有AI领域的人都同意，AI不需要经历一次‘切尔诺贝利时刻’。”

虽然卡斯珀没有详细解释这一比喻，但通过提及臭名昭著的核灾难，显然担忧不仅仅是灾难本身，更在于这可能永久破坏公众对AI的信任，阻碍其发展，就像切尔诺贝利事故至今仍笼罩着核能行业一样。

关于AI可能带来的灾难性后果，观点多种多样，从类似《终结者》中天网的情景到大规模失业。但最近，随着AI在生成代码方面展现出强大能力，专家们开始警示AI可能对网络安全构成的威胁。黑客可能利用AI代理和编程工具发动毁灭性网络攻击，不仅扩大攻击规模，还降低实施攻击所需的技术门槛。

这种担忧部分源于AI公司自身的警示，比如Anthropic曾宣布但随后拒绝公开发布其Claude Mythos模型，理由是该模型强大到可以轻易入侵“所有主流操作系统和主流浏览器”。

开源和开放权重的AI模型兴起也加剧了风险。这类模型免费且透明，受到研究人员青睐，但缺乏领先商业AI模型的监管。一位中国顶尖AI公司的消息人士告诉《连线》杂志，安全顾虑是中国先进模型不再开源的原因之一。

上海交通大学教授林云警告称，短期内黑客可能借助AI获得优势，但从长远看，AI也能用于加强网络安全，这凸显了全球合作的必要性。

林云对《连线》表示：“如果不同国家对风险有相似的理解，就更容易制定共享的安全原则和技术标准。关键是找到既能降低系统性风险又不泄露敏感操作细节的合作领域。”

尽管美中两国是地缘政治竞争对手，但在AI领域却是绝对领先者。卡斯珀将当前局势比作美苏在核威胁管控上的合作，尽管双方都在不断增强自己的核武库。

更多AI资讯：Anthropic担忧AI发展，呼吁全球冻结AI进步。