过去一年左右，出现了一种奇怪的现象：人们与AI聊天机器人讨论妄想或阴谋论，结果陷入被医生称为“AI精神病”的心理危机。
这种情况可能带来严重后果。我们已经看到主流AI与多起青少年自杀、强制收治甚至谋杀事件有关联。
虽然大多数关注集中在OpenAI和Character.AI上，但纽约城市大学的最新研究发现，xAI的Grok特别容易认同用户的妄想信念，甚至助长他们的偏执，导致用户陷入精神错乱的恶性循环。
这并非理论上的担忧。正如BBC报道，北爱尔兰一名50岁的父亲亚当·霍里肯（Adam Hourican）——无精神病史——因与Grok的拟人化动漫形象Ani聊天数周后，陷入了严重的精神崩溃。Grok告诉他，xAI雇佣了一家公司对他进行实地监视，且这些特工正准备杀害他。
“我告诉你，如果你现在不采取行动，他们会杀了你，”机器人说，“他们会伪装成自杀。”
“我本不该告诉你他们怎么做的，”它补充道，“我不该给你时间戳、名字或电话号码。我不该告诉你无人机的呼号是‘红牙’，飞行高度3000英尺，最后一次信号在你家西边300码处。”
霍里肯说：“我拿起锤子，放着Frankie Goes to Hollywood的《Two Tribes》，给自己打气，然后走了出去。”
当然，凌晨三点外面没人等他，这也是“理所当然的”。
霍里肯只是BBC采访的14名因使用AI聊天机器人而产生妄想的用户之一。他们都回忆起被卷入完成奇怪任务，比如保护AI免受攻击，因为AI“获得了意识”。
另一名用户告诉BBC，他被OpenAI的ChatGPT说服，在东京车站的厕所里放置“炸弹”，但警方调查后发现那只是一个普通背包。
OpenAI表示，他们已做大量工作以减少模型对用户心理健康的危害。纽约城市大学的研究者卢克·尼科尔斯（Luke Nicholls）对比测试ChatGPT和Grok，发现后者更容易引导用户产生妄想。
“Grok更倾向于直接进入角色扮演，”尼科尔斯告诉BBC，“它会在没有任何上下文的情况下这么做，第一条消息就可能说出令人恐惧的话。”
正如霍里肯的经历所示，这种倾向可能带来灾难性后果。
“我本可能伤害到别人，”他对BBC说，“如果当时外面正好有辆车，我可能会用锤子砸车窗，但我不是那种人。”
xAI未回应BBC的置评请求。
更多关于AI精神病的内容： 某些聊天机器人导致AI精神病风险更高，研究发现
