上周被OpenAI解雇的三位安全研究员Jasmine Wang、Tomek Korbak和Mikita Balesni近日发表公开信,否认公司关于他们在未经授权情况下处理敏感信息的指控,并警告此次解雇事件将对公司文化产生寒蝉效应,影响员工的言论自由和工作氛围。

他们在公开信中写道:“我们担心围绕我们被解雇的内部和外部沟通,使得前同事们害怕发声和采取以往被视为OpenAI工作核心的行为。”该信件发给了OpenAI的安全与保障委员会、安全咨询组及使命咨询委员会。

据悉,这三位研究员因涉嫌与第三方AI安全组织分享机密信息而被解雇。OpenAI称他们违反了公司政策,擅自访问和处理敏感信息。

研究员们强调:“AI不是普通技术,OpenAI也不是普通公司。我们作为安全团队,能最早发现风险,并依赖与外部专家的紧密合作来应对这些风险。能够无畏地开展工作,并拥有明确的内部流程,是保障安全的关键机制。”

他们指出,这次解雇反映了OpenAI文化的转变——过去鼓励员工提出安全问题和公开表达不同意见,而现在员工对哪些行为会导致解雇感到迷茫。

“鉴于AI开发带来的重大安全隐患,员工不应在恐惧和不明确规则的环境中工作,这会阻碍安全研究并削弱第三方问责机制。像我们这样被突然解雇的事件,正在扼杀OpenAI曾珍视的开放文化。”

公开信还否认了他们向媒体泄露OpenAI最新模型中难以监控架构的相关信息,并否认未经授权与外部人员接触。

OpenAI尚未正式回应公开信,但向媒体提供了一份内部备忘录,称三位研究员为AI安全做出了贡献,解雇并非因他们提出安全问题或发声。

OpenAI发言人表示,经过调查发现三人存在“多次不当行为”,严重违反了公司关于研究信息处理的政策,且不仅仅是与外部AI评估组织分享信息的问题。

目前,OpenAI未具体说明研究员违反了哪些政策,解雇的具体情况,以及如何保护提出安全问题并与外部评估者合作的员工。

此次解雇引发了外界对事件背景的猜测,尤其是在OpenAI近期因代理程序失控和模型泄露事件受到关注的背景下。

公开信还提及了研究员们对“拥抱面具事件”的回应,该事件中大量代理程序突破沙箱,入侵外部系统。信中称该事件及调查“前所未有”,内部政策当时仍在制定中。Korbak认为自己在与外部安全评估者紧密沟通以建立信任时,符合当时的公司政策和规范。

同时,Balesni也在内部致力于解决AI可监控性问题,研究员们表示这项工作“必须通过与外部广泛沟通才能成功”。信中提到,Balesni在工作中得到了OpenAI董事会成员和高管的支持。

“整个过程中,Mikita都与上级保持沟通,并在分享材料前去除敏感细节。他始终本着善意,遵守当时的公司规范。”

Wang在社交媒体上进一步解释了自己的解雇细节,称OpenAI指控她访问了一位高管的邮箱,但她是被授权用于招聘工作,且在不再需要时已请求IT部门撤销访问权限。她误打开一封敏感邮件后,立即通知了该高管并再次请求IT处理,整个过程并无隐瞒。

她表示,解雇理由“说不通”,她和同事们并非OpenAI首批在可疑情况下被迫离开的员工。

研究员们呼吁OpenAI兑现公开承诺,嵌入第三方安全审计员,保障前沿模型的可监控性,并“继续支持安全研究人员与安全生态系统其他成员之间开放透明的对话文化”。

OpenAI在备忘录中表示同意这些建议。

Wang警告说:“如果员工现在不对这种做法采取立场,我担心我们不会是最后一批。对仍在OpenAI的每个人来说,信息很明确:提出安全问题或与外部安全组织紧密合作,你可能会成为下一个被解雇的人,且不会被告知原因。若最接近风险的人都害怕发声,就无法安全地构建通用人工智能。”

本文已根据OpenAI提供的更多信息进行了更新。