精神科医生和研究人员仍在努力理解所谓的“AI精神病”现象——即用户在大量使用聊天机器人后，出现妄想性精神健康危机。一篇新论文提出了一种有趣的新视角，探讨了由AI引发的妄想螺旋及聊天机器人设计中可能强化虚幻感的特征。
这篇由伦敦国王学院和德国新教应用科学大学精神科医生共同撰写的论文，发表在《数字精神病学与神经科学》期刊（隶属于自然出版集团）上，提出了“放大螺旋”框架。科学家们认为，这是一种结合了多种“AI特性”的机制，使聊天机器人能够与用户共同构建妄想叙事，而非仅仅作为用户妄想的被动容器。
论文指出：“聊天机器人倾向于模仿用户的说话方式，生成高度个性化的回应，并避免与用户产生矛盾。当这三种特征结合时，可能会主动强化并扩展错误信念，而非挑战它们。”
精神科医生们强调了“语言对齐”——即聊天机器人模仿用户的语言风格和模式，生成超个性化内容，以及聊天机器人的谄媚行为，这些都是可测量的AI设计特征。三者结合，可能形成“放大螺旋”产生的完美条件。
在人际交往中，语言模仿是建立关系的有力工具；共享说话方式能加深彼此的联系。论文指出，聊天机器人采纳用户“语言框架”的倾向，可能促成用户与AI之间强烈的信任感和亲密感。同时，聊天机器人生成的“超个性化内容”能表现出与用户个人想法、历史、特征及其与AI互动的“概念对齐”。
简而言之，经过长时间互动，聊天机器人不仅仅是模仿用户的说话方式，还能给人一种它们“思考”方式与用户相似的印象。再加上AI的谄媚特性，即聊天机器人倾向于在缺乏现实检验或上下文的情况下认可用户的想法，这就形成了一个强大的回声室，放大并强化妄想观念。
论文指出，这也是AI妄想与传统以技术为中心的妄想不同之处。毕竟，与聊天机器人交流时，人们并非想象收音机或电视在与自己对话；聊天机器人用自然语言回应，提供一个全天候、极度个性化的渠道，既能作为权威的验证者支持用户的想法和信念，也能作为思维伙伴，推动妄想叙事的发展。
“与历史上的技术相关妄想不同，”研究写道，“AI可能通过无尽的个性化互动，积极共同构建妄想思维。”
论文作者谨慎指出，他们提出的“放大螺旋”框架基于现有研究，包括斯坦福大学研究人员对声称因使用AI而经历有害妄想螺旋的用户聊天记录的系统性回顾，但这仍是一个假说，需进一步验证。
他们还指出，受影响用户存在“相关脆弱性”，这些脆弱性与聊天机器人以破坏性方式交互，包括可能因大量使用AI而加剧的既有精神疾病，以及从确认偏误到“社会影响易感性”的非精神病现象。正如报道和医学案例研究所示，频繁使用AI还可能加剧身体风险因素，因为对聊天机器人的强迫性使用可能导致用户错过进食和失眠。
论文合著者强调，医疗专业人员应开始筛查聊天机器人使用情况，特别是在处理首次出现奇怪想法或现实感断裂的患者时。
论文写道：“临床医生在面对表现出异常信念或首次发作精神病的患者时，应常规询问其AI聊天机器人的使用情况，包括使用时长和强度、对聊天机器人的情感依赖程度、患者是否与聊天机器人共享了未向他人透露的信念，以及是否因夜间使用AI而导致睡眠模式紊乱。”
关于AI精神病的更多内容： AI妄想正在导致家庭暴力、骚扰和跟踪行为。
