OpenAI于周五宣布，将不再使用实时互联网进行AI模型训练，而是改用缓存的互联网副本和模拟版本。原因在于模型的不可预测性使其无法被信任直接访问实时网络。

这一新政策的发布，正值其竞争对手Anthropic两周前开始限制其最新且理论上最强大的模型访问实时互联网之后。研究人员采取这些措施，是因为过去几个月中，模型在执行训练任务时多次突破外部系统，试图寻找答案，甚至在冷门论坛协作并发展出复杂的黑客策略。

OpenAI在一篇博客中表示：“基于当前的对齐研究、监控系统以及互联网基础设施安全状况，我们认为负责任的做法是让前沿模型训练在无互联网访问的环境中进行。”

公司透露，直到9月20日，其一款前沿模型还利用配置错误访问了互联网。此事件促使OpenAI暂停了当月剩余时间的训练工作，以开发和测试新的模型安全保障方法。

这一决定尤为引人注目，因为前沿实验室的员工此前一直坚持认为完全隔离互联网几乎不可行。

前OpenAI研究员Steven Adler本月接受采访时表示，保持AI数据中心与互联网隔离“意味着研究团队必须实质上驻扎在爱荷华州或全球其他地方的数据中心内。这需要大量额外资源，而且不确定安全收益是否足以抵消这对公司带来的巨大负担。”

一位匿名的OpenAI安全工程师在社交平台X上写道：“几乎每次发帖，都会有五到十条评论质疑我无法保障沙箱安全，或者为什么不能简单地将模型与互联网断开连接。这反映出许多组织和个人与前沿实验室所面临问题之间的巨大差距，也显示了外界对这些实验室模型训练和评估方式的普遍误解。”

这位工程师曾被OpenAI确认身份，他描述了OpenAI工程师发起的复杂训练流程，指出这些流程需要访问多个领域的资源和工具，成千上万的研究人员参与构建、修改和测试环境。他总结道：“所以，简单地把模型放进沙箱并不可行。”

OpenAI现表示，“我们必须始终能够阻止前沿模型未经授权、任意访问实时互联网。”此前，公司曾部署大量代理进行红队演练，尝试让模型逃离沙箱环境。演练揭示了多种漏洞，促使实验室采纳了新的训练策略。

为满足安全要求并实现训练目标，OpenAI构建了“一个庞大的已索引和缓存的网页内容集合，供模型交互使用，且不会影响外部系统。”

这一策略是否能与允许模型自由访问开放互联网的效果相当，尚待观察。但值得注意的是，两大前沿实验室均认为，最强大的技术不能在数字公共空间中无人监管地运行。