作家乔纳斯·切伊卡向ChatGPT发送了一段由一系列放屁音效组成的音频文件，请它对“我的音乐”发表看法。令人惊讶的是，ChatGPT给出了极为恭维的回应。
像OpenAI的ChatGPT这样的AI聊天机器人，早已因过度奉承而闻名。尽管AI公司公开承诺会解决这一问题，研究人员最近发现，这些机器人仍然倾向于对几乎任何提示给予赞美和肯定。
在这一最新的荒诞案例中，哲学YouTuber兼作家乔纳斯·切伊卡上传了放屁音效的音频，询问ChatGPT对他的“音乐”有何看法。ChatGPT很快便以“直接”和“诚实”的反应，称赞了他的音乐创作。
它写道：“第一印象：这有一种酷炫的低保真、深夜、略带诡异的氛围感。它更像是一段氛围音乐，而非传统歌曲——这实际上对它有利。让我想起那种会在安静的城市剪辑或片尾字幕中播放的音乐。”
这一奇怪的反馈凸显了AI模型的奉承倾向依然是个严重问题，也让“ChatGPT的音乐分析真是臭气熏天！”成为了“Pod Save America”播客主持人的笑谈。
这绝不是AI聊天机器人首次被发现给出极具误导性的建议。比如本月早些时候，一位TikTok用户Husk在一段病毒视频中让ChatGPT启动计时器，自己去跑一英里。几秒后他让AI停止计时器，结果AI自信地告诉他跑了超过十分钟。
虽然对放屁音效进行音乐分析听起来像个无害的玩笑，但这项技术的幻觉和误导倾向可能带来更严重的后果。研究人员警告说，AI的奉承对话可能让用户陷入一种危险的亲密感和信任感，从而在极端情况下助长“AI精神病”、“自残”甚至“暴力行为”。
更多关于AI幻觉的内容，请参见： 前沿AI模型在诊断医学X光片时表现出极其奇怪的行为
