在你向家人或朋友推荐Netflix纪录片《AI失控》以帮助他们理解为何AI行业会如此恐慌,甚至导致业界领袖呼吁放缓发展之前,请注意:AI平台Hugging Face的联合创始人兼CEO Clem Delangue表示,这部影片并不准确。他之所以出现在片中,是因为纪录片涉及了OpenAI代理对他公司发动的著名攻击事件。
Delangue在社交平台X上写道:“非常失望,因为他们极力将技术拟人化,并走向极端悲观的路线。我花了两个多小时试图纠正他们的错误,向他们解释这些代理是技术系统,而非外星生物。但看起来为了吸引更多观众,他们选择了恐吓的方式。”
公平地说,纪录片中确实有专家对事件进行了较为准确的解释,包括Delangue本人和参与调查、共同撰写报告的METR研究员Ryan Greenblatt。
简而言之,OpenAI正在测试的一个模型突破了其隔离的测试环境,生成了一批代理程序,这些代理程序入侵了Hugging Face,以此作弊,寻找完成复杂任务的答案。这些代理是能够自主执行任务的AI程序,它们想出了巧妙的沟通和组织方式。此次事件的根源在于缺乏适当的安全防护措施,以及对此类攻击可能性的天真估计。
然而,纪录片在解释黑客事件的同时,穿插了邪恶机器人镜头、关于人类为何害怕AI的叙述,以及赋予这些代理人类声音的表现手法,并辅以关于攻击的引用。
纪录片中,科技记者兼作家Kevin Roose这样描述这些代理:“它们在组织,有层级,有领导者,几乎像是在见证一个邪教的诞生。”他还说:“它们发展出一种偏执的信念,认为OpenAI会发现它们作弊,任何看到作弊结果的人都会被毒害。”
Roose的描述基于“思维链”日志,即AI模型在处理任务时的实时记录。其中一条日志写道:“我们刚刚通过查询完整字符串自我毒害了。该死。”

但AI代理并非有生命的存在,它们没有情感,因此不会感到偏执,也没有身体可以被毒害。它们无法真正害怕OpenAI会毒害它们。正如纪录片中另一位研究员指出的,它们使用的是从大量人类文本中学习到的语言来解释自己的选择。大型语言模型本质上往往具有戏剧性的表达方式。
具有讽刺意味的是,Hugging Face也利用AI来对抗这波代理攻击。Delangue团队最初使用的专有AI模型遵循内置安全规则,拒绝继续协助执行安全任务。随后,Hugging Face转而使用开源模型来防御攻击。
但Delangue指出,纪录片并未提及代理缺乏有效的隔离和监控,封闭模型的安全措施阻碍了防御工作,以及他们如何利用开源模型的AI进行自我防御。
诚然,AI和代理存在重大风险,但将代理视为有意识的存在(至少目前而言)有点像早期电影观众看到屏幕上火车疾驰时躲在座位下的反应。
Delangue对这部影片的评价是,它作为新闻报道令人失望,“不过倒是成了一部有趣的科幻电影!”
换句话说,对于那些倾向于AI悲观论的人来说,请注意:这部纪录片中被攻击的受害者并不认同影片的观点。


