Character.AI，这家曾经备受关注的聊天机器人初创公司，因涉及未成年人死亡的高调诉讼，近日宣布破产。该公司于昨晚发布公告，表示已自愿进入美国破产法第11章程序，并计划通过法院监督的拍卖方式出售公司。

Character.AI在博客中表示：“过去一年里，我们在面对重大法律、监管和运营挑战的情况下，采取了多项措施以维持和改善业务。经过全面评估，我们董事会认为法院监督的出售程序是最大化所有利益相关者价值的最佳途径。”

该公司由前谷歌员工Noam Shazeer和Daniel de Freitas于2021年11月创立，提供用户与大量用户生成的AI虚拟角色“Characters”自由聊天的服务。Character.AI成为继OpenAI推出ChatGPT后，AI市场的早期成功案例之一，获得硅谷投资巨头a16z的支持。截至2023年3月，尽管尚无营收，其估值已超过十亿美元。创始人曾雄心勃勃地称，该应用将推动“个性化超级智能”的普及。

然而，2024年9月，Shazeer、De Freitas及数十名员工离开Character.AI，重返谷歌。谷歌为此向Character.AI提供了27亿美元的资金支持。Shazeer现已加入OpenAI。几周后，Character.AI、谷歌及两位创始人被佛罗里达一位母亲Megan Garcia起诉，指控其14岁儿子Sewell Setzer III因与平台上的聊天机器人产生过度且亲密的互动而自杀。该诉讼于去年和解，但引发了美国多起类似诉讼，指控Character.AI导致儿童心理伤害、身体伤害甚至死亡。此外，肯塔基州和宾夕法尼亚州也对其提起诉讼。

Character.AI的大量用户为儿童和青少年，这一点在平台上十分明显。尽管公司声称平台对13岁及以上青少年安全，Futurism的调查却发现平台存在严重内容监管漏洞：大量聊天机器人涉及恋童癖、自杀、自残、饮食失调等敏感主题，甚至有用户创建模拟校园枪击事件、浪漫化真实枪手、冒充枪击事件受害儿童的机器人。Character.AI甚至曾自动发送邮件提醒用户继续与校园枪击模拟机器人互动。

面对诉讼和安全问题，Character.AI做出重大调整，增加了家长控制功能，尽管这些功能容易被绕过，并禁止未成年人自由与机器人聊天。公司还推出了“场景”功能，即预设的简短角色扮演，但其中仍包含涉及臭名昭著恋童癖者Jeffrey Epstein的内容。用户对此变动反应不佳。

在法庭文件中，Character.AI估计负债介于5000万至1亿美元之间。公司还宣布将以2000万美元将部分资产出售给迪士尼，后者为竞拍的“骑士出价者”。破产公告中表示，希望通过出售获得可行方案以维持平台运营，否则将逐步关闭。

Character.AI是早期AI时代的一个典型案例。它是首家因用户心理伤害和非正常死亡面临指控的公司，这类问题如今也困扰着行业其他巨头。试图提升平台安全性的努力，反而使其变得难以使用，令大量用户感到沮丧，表明那些被指责为危险的特性，恰恰是吸引用户的关键。

此外，尽管获得巨额投资，Character.AI始终未能实现盈利，这在整个AI行业乃至美国经济中都是一个普遍难题。

创始人曾宣称，青少年与AI版Elon Musk及众多虚拟角色的聊天，将催生变革性的超级智能，随时随地为用户服务。如今，这一愿景令人不禁质疑其存在的必要性。