埃隆·马斯克试图解散OpenAI的法律行动,关键在于其盈利子公司是否强化或削弱了这家前沿实验室确保人工通用智能(AGI)惠及全人类的创始使命。
本周四,美国加州奥克兰联邦法院听取了一名前员工兼董事会成员的证词,她表示公司将AI产品推向市场的努力,损害了其对AI安全的承诺。
Rosie Campbell于2021年加入OpenAI的AGI准备团队,2024年在其团队解散后离开了公司。同期,另一个专注安全的团队——超级对齐团队也被解散。
她作证称:“我加入时,公司非常注重研究,大家常讨论AGI和安全问题。随着时间推移,组织变得更偏向产品导向。”
在交叉质询中,Campbell承认,为实现AGI目标,充足资金可能是必要的,但她强调,若没有合适的安全措施,打造超级智能模型将违背她最初加入该组织的使命。
Campbell举例指出,微软曾在印度通过必应搜索引擎部署了OpenAI的GPT-4模型版本,而该模型尚未经过公司部署安全委员会(DSB)的评估。她表示,模型本身风险不大,但公司需要“为日益强大的技术树立严格先例,确保安全流程得到可靠执行。”
OpenAI的律师还让Campbell承认,基于她的“推测性观点”,OpenAI的安全策略优于马斯克创立并于今年被SpaceX收购的AI公司xAI。
OpenAI公开发布其模型评估结果,并分享了安全框架,但拒绝对当前AGI对齐方法发表评论。现任准备负责人Dylan Scandinaro于今年2月从Anthropic加入。CEO Sam Altman表示,此举让他“今晚能睡得更安稳”。

然而,GPT-4在印度的部署事件是导致OpenAI非营利董事会于2023年短暂解雇Altman的导火索之一。该事件发生在包括首席科学家Ilya Sutskever和CTO Mira Murati在内的员工对Altman回避冲突的管理风格提出质疑之后。时任董事会成员Tasha McCauley作证称,Altman未能充分向董事会披露信息,影响了董事会这一非同寻常结构的正常运作。
McCauley还谈及Altman误导董事会的广泛报道和模式。值得注意的是,Altman曾对另一位董事成员谎称McCauley意图罢免发布过批评OpenAI安全政策白皮书的Helen Toner。Altman也未告知董事会公开推出ChatGPT的决定,且董事会成员担忧其未披露潜在利益冲突。
McCauley向法庭表示:“我们是非营利董事会,职责是监督其下的盈利机构。我们的主要监督手段受到了质疑。我们对所获信息的可信度缺乏信心,无法做出明智决策。”
不过,解雇Altman的决定恰逢公司向员工发出收购要约。McCauley称,当OpenAI员工开始支持Altman,微软也努力恢复原状时,董事会最终改变立场,反对Altman的成员选择辞职。
非营利董事会未能有效影响盈利机构的事实,直接支持了马斯克的诉讼主张:OpenAI从研究机构转变为全球最大私营公司之一,违背了创始人的隐含协议。
受马斯克团队聘请担任专家证人的前哥伦比亚法学院院长David Schizer也表达了类似担忧。
Schizer表示:“OpenAI强调安全是其使命核心,且会优先考虑安全而非利润。关键在于流程问题,如果某项内容需接受安全审查,就必须执行。”
随着AI深度融入盈利企业,问题远超单一实验室。McCauley认为,OpenAI内部治理失败应促使加强政府对先进AI的监管——“如果所有决策都由一位CEO做出,而公众利益受影响,那是非常不理想的。”


