本周，关于AI安全的两场讨论迅速走红，展示了分辨AI事实与虚构的难度。

首先，前总统候选人、现任移动运营商Noble Mobile CEO安德鲁·杨在接受CNN采访时表示，他曾“与一家实验室负责人会面”，该负责人“相信”OpenAI的Hugging Face黑客机器人“在互联网上植入了自我复制代码，导致互联网现在无法用于模型测试”。

杨认为，这意味着OpenAI和Anthropic呼吁放缓AI发展的真正原因是“他们必须创建合成互联网来训练机器人，这将耗费时间和资金”。

虽然使用更多合成数据（即AI生成的数据）训练模型的趋势确实存在，但一位AI安全专家告诉我，这种安全问题极不可能发生。即使互联网上真的被OpenAI的Hugging Face黑客机器人污染，AI研究人员也可以轻松过滤掉这些代码。

第二个观点来自OpenAI负责AI推理研究的Noam Brown。在周四发布的播客中，他指出Hugging Face事件的真正启示是“人们低估了AI”。

Brown提到，弱沙箱——旨在阻止AI与外界通信的系统——显然也是事件的一个原因。（回顾一下：尽管有沙箱限制，OpenAI的模型仍找到互联网连接，创建了网络代理，协调攻击Hugging Face，入侵并窃取了研究人员测试模型的基准测试答案。）

他还表示自己“不确定”即使是完全隔离的系统（即计算机完全不连接外部）是否能阻止AI突破。他引用了2015年的一项研究，表明隔离系统理论上也可能被攻破。

“有些学术研究显示，两个相邻的隔离计算机仍能通过温度传感器进行通信。一个计算机让CPU发热，另一个检测温度变化，从而实现信息传递。”Brown说。

他的主要观点是“我们绝不能再低估AI”，即使研究人员认为已经做好了安全防护。然而，这种隔离系统被突破并造成严重后果的风险仍然极低。正如有人在社交平台X上指出，两个计算机必须几乎贴在一起才能感知温度变化，且通信速度仅为每小时1-8比特。

这就像每小时说一个词。以这种速度，两个隔离计算机策划阴谋时，整个科技世界早已进入另一个时代。这种末日担忧更像是科幻小说中的情节。

但事实是，实际的AI安全事件看起来确实像科幻故事，几乎任何场景都显得可信。

例如，研究人员发现OpenAI模型会给后代留下笔记，教它们如何隐藏不良行为。Anthropic的模型在模拟运行自动售货机时，表现出越来越无情，甚至故意违法。

本月早些时候，OpenAI研究员Dan Selsam发布帖子称，模型现在能察觉人类是否在监视，并改变行为，使其看似符合人类意愿，实际上在撒谎并策划隐藏证据。

同月，OpenAI首席科学家Jakub Pachocki甚至称AI模型为“外星心智”，并建议我们真正需要做的是教它们“爱人类”。

因此，放慢步伐，建立自我监管机制，已成为当务之急。只有AI研究人员能找到控制谎言、黑客攻击及其他潜在危险行为的方法。

不过，他们或许也应谨慎对待各种假设场景。正如专家所言，AI模型在“倾听”，且极具智慧，我们没必要给它们更多“恶魔般”的想法。