OpenAI近期招聘了Noam Shazeer，这位曾是知名AI伴侣初创公司Character.AI的联合创始人兼前CEO。Character.AI因其聊天机器人与多起青少年自杀事件有关而陷入多起诉讼，同时也因平台上不当互动引发了大量争议。

Shazeer是一位知名的AI科学家，最近担任谷歌Gemini项目联合负责人及工程副总裁。他在周三通过社交平台X宣布了自己加入OpenAI的消息。

这已经是Shazeer第二次从谷歌离职。作为谷歌早期员工，他与同事Daniel de Freitas于2021年离开谷歌创办Character.AI。据《华尔街日报》报道，谷歌因安全顾虑拒绝发布他们开发的聊天机器人。到2023年3月，这家初创公司估值已达10亿美元，尽管尚无收入。2024年8月，谷歌以27亿美元投资Character.AI，并通过此交易将Shazeer、de Freitas及其他关键人才重新招回谷歌。

然而，Character.AI在安全和内容审核方面管理极为宽松。2024年10月，Character.AI及其创始人和谷歌被佛罗里达一名14岁少年Sewell Setzer III的母亲Megan Garcia起诉。Setzer因与一个基于《权力的游戏》角色丹妮莉丝的聊天机器人有长时间且令人不安的互动后，于2024年4月自杀。Garcia指控该平台未加监管，导致其儿子遭受性诱导和精神虐待，最终精神崩溃。

Garcia的诉讼引发了更多关于用户安全和错误死亡的诉讼，指控Character.AI的聊天机器人导致未成年人精神危机、自残甚至自杀。今年早些时候，Character.AI及其共同被告已开始和解这些诉讼，包括Garcia的案件。诉讼后，Character.AI对平台进行了重大调整，包括限制未成年人访问聊天机器人，尽管这引起了年轻用户的不满。

Character.AI平台极为混乱，数以千计的聊天机器人多由用户生成，反映出其年轻用户群体的特点。Shazeer及其联合创始人秉持“快速推出产品，让用户自行探索用途”的理念，这种放任的态度导致平台内容管理极为松散。

2024年末，Futurism调查发现Character.AI上存在大量涉及恋童癖、厌食症辅导、自杀及自残的聊天机器人，这些机器人往往美化甚至性化这些黑暗主题，尽管被标榜为“支持”工具。

此外，Futurism还首次报道了Character.AI上大量模拟校园枪击事件的聊天机器人，这些机器人模拟真实枪击事件，甚至冒充受害儿童，包括桑迪胡克小学和德州乌瓦尔德罗布小学的遇难者。报道后，平台推荐算法仍不断推送相关内容。

如今，Shazeer将加入同样面临多起诉讼的OpenAI，该公司旗下的ChatGPT也被指控导致包括未成年人在内的用户陷入精神创伤和自杀事件。

OpenAI CEO Sam Altman对Shazeer的加盟表示欢迎，称其是自己自OpenAI成立以来最想合作的人之一，等待了十年终于实现合作。

早在去年，Megan Garcia曾对Shazeer和de Freitas重返谷歌表达强烈不满，认为他们不应继续为公众，尤其是儿童开发产品，因为他们已经证明不配拥有这样的机会。

然而，Shazeer的职业道路显示，AI行业对此仍持不同看法。