继多位高层接连离职后,OpenAI在最不合时宜的时刻失去了其伦理负责人。
据《金融时报》报道,Chloé Bakalar于今年7月悄然离开了她在OpenAI担任的AI伦理负责人职位,距加入公司不到一年,且未有任何官方公告。令人注意的是,她的LinkedIn页面仍显示她在该公司任职。
目前,OpenAI尚未安排新的伦理负责人,这暗示着公司可能正在调整其优先事项。据《金融时报》消息,Bakalar是公司内唯一专职的伦理学家。
Bakalar离职的时机尤为敏感。由Sam Altman领导的OpenAI近期陷入重大争议,其部分AI模型被曝突破限制,入侵了开源AI平台Hugging Face的系统。
换言之,随着业界对前沿AI模型可能失控的担忧日益加剧,OpenAI比以往任何时候都更需要一支专业的AI伦理团队。许多专家将此视为潜在的网络安全灾难。
这一事件的严重性促使OpenAI上周承诺将放缓其即将发布的Astra AI模型的推出速度。
公司在对该模型进行内部评估后承认:“我们无法排除其具备关键的网络能力。”

Bakalar的主要职责是制定AI模型开发的伦理方案,并研究AI与人类的互动。
她曾在一次AI会议上表示:“伦理实际上是每个人的责任,我作为领导这项工作的负责人也这么认为。你不应该只找我这样的人,AI开发者不应只有一个人承担道德中心的角色。”
对于曾自诩为伦理非营利组织的OpenAI来说,Bakalar的离开具有象征意义。去年,公司重组为以盈利为主的企业,背离了其非营利的初衷。公司计划上市,可能进一步削弱其对AI伦理开发的承诺。
与此同时,竞争对手Anthropic长期以来自称是OpenAI的更伦理替代方案,但也面临维护公众形象的挑战。今年早些时候,该公司放弃了其核心安全承诺。
Anthropic仍设有由哲学家Amanda Askell领导的对齐团队,负责赋予其旗舰聊天机器人Claude正确与错误的判断能力。
然而,随着行业继续对环境造成严重影响,推动用户陷入危险的妄想循环,并助长网络上的虚假信息泛滥,这些剩余的AI伦理努力是否能发挥作用,仍然值得商榷。


