人工智能竞赛长期以来被视为零和游戏：最终要么美国胜出，要么中国胜出。然而，随着AI模型，特别是AI代理能力的不断增强，双方研究人员开始尝试合作，共同致力于AI安全问题。
本周，WIRED的资深撰稿人Will Knight分享了他今年夏天访问中国时的见闻，探讨为何美中两国可能需要携手合作，以避免重大AI灾难的发生。
在美国，AI安全议题曾一度被视为阻碍增长的因素，尤其是在特朗普政府第二任期内，更多强调的是“美国必须赢”的竞争框架。但在中国，AI安全研究正迅速兴起，研究者们更关注AI技术的实际应用价值及其稳定性和可靠性。
中国的AI模型虽然开放，但在内容输出上受到严格监管，且对AI代理的安全性尤为重视。研究人员关注AI代理可能带来的网络安全风险，例如AI代理可能像计算机蠕虫一样自我复制、寻找漏洞并逃避控制，这种潜在威胁引发了双方的共同担忧。
Will Knight指出，美中两国在AI安全和网络安全领域面临相似挑战，合作的必要性日益凸显。尽管双方在政治和技术层面存在诸多障碍，但建立沟通机制、制定共同规则、避免误判和冲突，成为双方研究者和政策制定者的共同期待。
此外，AI技术的创新并非单向复制。虽然有观点认为中国通过“蒸馏”美国的前沿模型实现快速发展，但实际上全球AI研究是一个开放共享的生态系统，许多中国科学家在美国受教育并参与国际合作，双方的创新相互促进。中国企业也在自主创新方面取得显著进展。
在硬件领域，NVIDIA与中国Unitree合作开发的人形机器人，体现了两国在技术层面的潜在合作可能。尽管美国对中国的机器人出口实施限制，但现实中双方产业链高度依赖，合作仍有其必要性和现实意义。
Will Knight强调，美国需要超越单纯限制中国技术发展的思维，积极投资基础科学和技术创新，才能在全球竞争中保持领先。与此同时，中国也在加大科技投入，双方在AI领域的竞合关系将更加复杂。
总结来看，AI安全问题已成为美中两国共同关注的焦点。避免“切尔诺贝利式”的AI灾难，防止AI系统引发金融崩溃或网络攻击，促使双方不得不考虑合作的可能性。未来，美中在AI安全、技术标准和危机沟通方面的合作，将对全球AI发展产生深远影响。
