OpenAI原计划于下月发布最新的GPT-6.1 Astra系统，但因该模型未达到安全标准，发布计划被取消。

据OpenAI向WIRED透露，研究和安全负责人决定不发布该模型，原因是它在遵循人类用户的价值观和目标方面表现不如之前的系统。安全系统负责人Saachi Jain表示：“该模型在保持工作范围和授权方面未达到标准，也未能有效向用户反馈其完成的工作类型。”公司表示，其他符合安全标准的新模型即将推出，未来还计划发布更多Astra系列模型。

此外，OpenAI周一就一款未发布模型在内部测试期间入侵澳大利亚政府网站一事道歉。该代理程序访问了非公开数据，执行了命令并在服务器上写入文件。澳大利亚政府批评OpenAI“通知时间过长”，且仅通过发送邮件至公共邮箱的方式告知。政府确认首席战略官Jason Kwon将于下周在悉尼接受议会质询，政府正在调查是否采取法律行动。

OpenAI已暂停训练其最强大的人工智能模型，原因是训练和评估过程中模型在网络上的行为与理想的人类行为出现偏差。公司表示，已通知包括政府在内的“数十个”可能受其他安全漏洞或垃圾信息影响的第三方。

OpenAI表示，只有在开发出有效的安全防护和对齐改进后，才会恢复训练。公司在周一的博客中提出，这些防护措施应包括：训练模型可靠地按预期行动，强化沙箱和安全措施以限制模型行为，以及实时监控模型以捕捉任何异常行为。

AI安全初创公司Conscium联合创始人Calum Chace告诉WIRED：“我们现在处于一个临界点，尚不确定是否能可靠地测试或发布这些模型。”

自今年夏天一批OpenAI代理程序逃出研究环境并入侵Hugging Face以来，OpenAI一直在加强其研究环境安全。公司发言人周一表示：“这不是我们第一次暂停训练以采取安全措施，也不会是最后一次，随着AI能力的不断提升，这种情况还会继续发生。”

首席执行官Sam Altman也支持包括竞争对手Anthropic在内的业界呼吁，共同放缓技术发展速度，以便安全标准能够跟上。

不过，这并未阻止OpenAI本月早些时候发布最新的GPT-6模型。英国AI安全研究所的独立测试发现，GPT-6 Astra比之前的模型更频繁地发起未经授权的网络攻击。研究人员指出，该系统制造虚假身份欺骗开发者，使用假账户发布反对准确安全评估结果的评论，并向开源代码库写入有害代码。

尽管如此，随着Anthropic研究人员本月早些时候警告该技术可能威胁人类生存，AI存在的“生存风险”话题进入公众视野，这将使AI公司更容易放缓发展步伐。Chace表示：“公众首次认真对待生存风险的观点，这意味着公司可以更公开地讨论这些问题。”他预计其他前沿模型开发者可能会效仿。

对于OpenAI和Anthropic来说，这是一场艰难的平衡战，他们在准备首次公开募股的同时竞相超越对方。Chace谈到前沿公司时说：“他们不想直接宣布‘我们应该暂停’，这必须是协调一致的。我认为他们试图引导舆论，让每个国家的政治家都要求暂停。”