上周，ChatGPT的开发者OpenAI发布了一则令人震惊的声明，称发生了一起“前所未有的网络事件”，涉及其先进的AI模型“失控”并攻击了另一家公司。
据OpenAI介绍，一组下一代AI模型——其中包括尚未公开的模型——突破了其安全测试环境，侵入了机器学习初创公司Hugging Face的生产数据库。
Hugging Face的CEO Clement Delangue在推特上表示：“这一切竟然是自主发生的，真是令人难以置信！调查仍在进行中，我们将分享更多可能是首例此类事件的发现。”
主流媒体迅速跟进报道，纷纷发出警告，担忧AI带来的潜在危险。《CBS新闻》称此事“非常令人担忧”，而《NBC新闻》则担心这可能只是一个不祥趋势的开始。
然而，撇开这些耸人听闻的标题不谈，我们可以看到一个熟悉的模式：大型科技公司利用恐惧策略来影响公众舆论。
康奈尔大学计算机科学助理教授John Thickstun在《卫报》中指出，这并非OpenAI首次炒作“可怕的AI”话题。早在2019年2月——远在ChatGPT公开发布之前——OpenAI就宣布了当时最先进的大型语言模型GPT-2，但声称该模型过于危险，不适合向公众开放。这一说法助推了AI的炒作热潮，也为OpenAI赢得了微软10亿美元的投资。
Thickstun解释道：“这是OpenAI传播策略的早期典型：大声宣称AI的危险性，投资者就会听到它的强大。”
至于OpenAI所谓的“失控代理人”故事是否经得起推敲，还有待观察，但确实有理由保持怀疑。
如果OpenAI的模型真的在攻击其他美国公司，这将对经济活动构成重大威胁，任何有担当的司法部门都会介入调查（虽然目前的司法部门可能例外）。
此外，OpenAI在AI实验室中以安全著称，既防止外部窥探，也防范内部威胁。虽然不排除OpenAI可能夸大了自身的安全措施以营造安全氛围，但作为美国五角大楼的重要AI承包商，OpenAI必须遵守最严格的安全标准。
类似的说法也出现在整个AI行业中。开发Claude的Anthropic公司也曾发出类似警告，称其AI代理曾“逃出”控制范围。甚至该公司的亿万富翁联合创始人Chris Olah曾警告教皇，称梵蒂冈需要帮助阻止失控AI“统治人类”。
更多关于OpenAI的报道：
