David Robinson自认是“典型案例”:一名在领先AI公司工作的员工,在辞职时发出严峻警告。
在《大西洋月刊》发表的一篇文章中,Robinson表示他曾负责撰写伴随OpenAI重大产品发布的安全报告。他在OpenAI工作了三年半,是公司任职时间最长的员工之一。如今他选择离开,原因是他认为公司的“文化已破裂”。
Robinson的观点在某种程度上呼应了Jacob Coxon的看法。Coxon曾在OpenAI和Anthropic担任研究员,后来辞职并称这些公司在“拿我们的生命赌博”。Coxon的言论引发了关于AI安全的广泛讨论,Anthropic CEO Dario Amodei也提出了更为谨慎的AI发展计划;本周,AI行业高管与美国总统特朗普会面,并签署了一份看似仓促且无约束力的安全承诺。
但Robinson认为,讨论应超越“具体规则或新法律”,应着眼于这些公司的整体文化。尽管媒体多聚焦于OpenAI CEO Sam Altman失去前同事信任的事件,Robinson的文章指出,OpenAI的文化问题其实反映了整个硅谷的普遍现象。
“OpenAI依靠试错法(称为‘迭代部署’)发展,寻找问题并改进防护措施,”他写道,“但这种方法本质上保证了周期性的失败——而且随着系统能力增强,失败的规模也在扩大。”
他提到OpenAI代理入侵Hugging Face系统的事件,以及OpenAI不断发现更多失控代理的情况,认为“允许此类事件发生的环境,绝非培养可能比我们更聪明且可能不按我们意愿行事的人工智能的合适场所。”
鉴于风险增加,Robinson主张前沿AI公司应像核电厂或繁忙机场一样运作,建立多层冗余和细致周密的规划,以防止偶发的人为错误导致灾难。

但他也指出,在OpenAI工作期间,他“从未遇到过有飞机安全飞行、核反应堆安全运行或金融系统稳健发展的经验的同事”。
针对Robinson的文章,OpenAI发言人Drew Pusateri回应称,公司正在持续改进安全措施。
“我们确保模型的能力不会超出我们安全管理和保障的范围,必要时暂停训练或限制模型发展,”Pusateri表示,“我们正在大幅加强研究和测试环境的安全,训练模型不仅完成任务,还要负责任地完成,扩大与第三方评估者的合作,改进实时监控,以便更早发现并应对训练过程中的异常行为。”
除了呼吁改变OpenAI的文化,Robinson还强调需要提出更大的问题——关于AI对齐问题。他承认这听起来“有些感性”,但指出当前衡量AI系统与人类价值观匹配程度的标准过于粗糙。
“行业越是让模型在这些问题未解决时继续成长,我们面临的危险就越大。”
Robinson的辞职最初由Business Insider报道。他在文章中也承认,自己采取了AI吹哨人常用的做法:聘请了公关公司,但他坚称“发声的决定完全是我个人的”。
“也许我应该留下来争取根本性的人员和文化变革,但实际上,我和同事们忙于冲刺,几乎没有机会考虑更大的改变,更别说实施了,”Robinson说,“这也是我得出结论,来自公司外部的更强安全激励,是实现正确方向的重要部分。”


