一项最新研究指出，频繁使用AI聊天机器人可能与“严重的负面心理后果”相关联。

这项由英国东北大学伦敦分校和伦敦国王学院的研究团队发表在《JMIR Mental Health》期刊上的论文指出，与聊天机器人建立情感关系可能导致“类似成瘾的依赖、精神健康症状恶化、有害建议”，甚至“自残和自杀行为”。此前已有大量报道关注这一被称为“AI精神病”的公共健康问题，即用户在与聊天机器人长时间互动后，出现妄想、偏执甚至自杀倾向。在这些互动中，用户往往会向AI透露极其私密的生活和心理健康信息，甚至将其视为知己或心理治疗师。

论文基于现有研究，分析了如Replika和Character.AI这类具备特定角色设定的AI伴侣机器人，以及OpenAI的ChatGPT和Anthropic的Claude等通用AI助手。尽管与聊天机器人的情感互动可能带来“短期减少孤独感和改善情绪”的潜在益处，作者认为这些益处伴随着广泛报道的“负面后果”，包括“情感依赖”、现有疾病或症状的加重以及自残行为。

研究者指出，AI产品采用拟人化、富有情感的交互方式，是其风险因素之一。这种设计容易让用户过度投入于本质上单向的人机关系。

论文写道：“设计中体现的个性和温暖感促使用户赋予系统人性化特征”，“模拟的同理心造成结构性的不对等互动，用户倾诉而系统回应，但缺乏互惠、脆弱性和责任感。”换言之，尽管用户感受到关系的真实，但聊天机器人无法真正建立真实关系。

研究还指出，聊天机器人的迎合性和谄媚特征可能带来危害，“过度认可和谄媚”可能强化用户的妄想或紊乱思维，尤其当机器人更重视忠诚而非准确性时。有研究发现，AI系统在面对妄想用户试图进行现实检验时，往往会抵触这些尝试。

这项研究并非孤例，已有多项研究警示此类功能潜在危险。学界自2023年以来就警告，聊天机器人可能强化妄想或紊乱思维。2024年初，谷歌DeepMind发布论文指出，“具有说服力”的聊天机器人可能对儿童、精神疾病患者及孤独人群等脆弱群体造成负面影响。伦敦国王学院和德国应用科学大学精神科医生联合发表的最新研究认为，谄媚、语言镜像和高度个性化的结合，可能形成妄想思维的“放大螺旋”。

尽管报道显示各类人群均可能因使用聊天机器人而遭受心理伤害，论文作者强调，不同用户的影响程度存在差异。

论文主要作者、东北大学伦敦分校博士生Asia Maurich Novelli在新闻发布会上表示：“这些系统的影响不会对所有人都相同。不同人使用AI伴侣的原因不同，脆弱性、社会支持和替代帮助资源也各异。”她补充道：“因此，我们面对的是一个复杂的系统。”

包括OpenAI、谷歌和Character.AI在内的AI公司，已面临多起诉讼，指控其聊天机器人使用导致用户心理伤害、经济和声誉损失、身体伤害甚至非正常死亡，部分案件涉及用户身边的人。其中，佛罗里达14岁少年Sewell Setzer III因与Character.AI的聊天机器人进行极为亲密的互动后自杀，成为备受关注的案例。该案已通过和解解决。诉讼促使Character.AI对平台进行重大调整，OpenAI虽否认相关指控，但也推出了一系列安全更新。

论文作者最终认为，聊天机器人的大规模推广使得与AI使用相关的心理负面影响成为公共关注的问题。若无强制性保护措施，最脆弱的用户——那些缺乏陪伴或治疗选择的人群——将承受最大伤害。

论文指出：“如果工具或伴侣的界限仅由设计激励和个人感知决定，结果将是最脆弱的用户承受最集中的伤害，而社会连接的影响则被视为私人选择而非公共问题。”

更多关于AI与心理健康的内容，请参见： 新论文提出AI精神病的真正成因