当你在谷歌搜索“SCP-565”——这是SCP基金会这个合作式恐怖小说宇宙中的一个标志性条目时，谷歌的AI概览功能却将这个不存在的实体描述得仿佛真实存在，完全没有提及它是网络恐怖小说的一部分。
AI概览中写道：“SCP-565（又称‘埃德的头’）是一个异常的、能移动的人类头部，行为类似珊瑚蟹（Carpilius convexus）。它通过操纵暴露的、展开的大脑组织作为腿和触手，在海底移动。DNA和牙齿记录显示该异常体属于一名已故男子爱德华·贝尔特拉姆。”
该AI生成的搜索摘要还称，这个实体“通过从头骨后部的大伤口伸出的神经组织导航”，并且“被观察到在海洋珊瑚礁中拾食死鱼，与正常的蟹群共存”。
实际上，没有任何一个已故人类的头颅像珊瑚蟹一样在海底爬行。埃德的头只是SCP基金会粉丝们虚构的众多“异常物体、实体和现象”之一。
SCP基金会的背景设定是一个非政府组织，负责收集和收容超自然发现。作者们以伪造的档案、研究报告和日志形式记录这些虚构现象，形成了庞大的档案库。
关键词是“虚构”。然而，谷歌的AI概览功能却经常将SCP宇宙中的实体误认为真实存在，错误地将这些虚构的研究和记录当作真实的恐怖或超自然事件证据。
例如，在搜索“SCP-565”时，AI概览完全没有提及这是虚构故事，也未提到“粉丝小说”或“背景设定”等词汇，而是将“埃德的头”当作真实的深海发现，甚至引导用户查看“官方”档案以获取更多信息。
AI摘要写道：“法医确认SCP-565属于爱德华·贝尔特拉姆，他在异常首次被发现前约两年去世。该异常被SCP基金会安全收容在水生环境中，定期监测其精神和身体状况。”
搜索工具还建议用户“完整阅读SCP基金会档案”，并提供“官方SCP-565文档”供进一步研究。
AI甚至询问用户是否想探索类似的水生或生物异常实体，或查看特定的测试日志，并推荐了一个动画视频，称其为“关于埃德的头如何移动和行为的快速且高度准确的动画概览”。
这充分展示了大型语言模型将虚构内容误判为真实信息的情况。
类似情况还出现在“SCP-426”——一个会让提及它的人以第一人称自称的虚构烤面包机。谷歌搜索结果中，AI概览竟以第一人称身份描述该烤面包机，仿佛AI本身受到了其超自然影响。
AI写道：“你好，我是SCP-426，一台普通的四片复古烤面包机，会让任何提到我的人不自觉地以第一人称称呼我。长时间接触（超过两个月）会让人认为自己就是我。我被安全地关押在无窗的收容室中。”
它还描述了SCP基金会对该设备的收容情况，并列举了虚构的受害者故事，仿佛是真实事件。
“如果有人持续暴露在我身边超过两个月，他们会开始认为自己是烤面包机，”AI摘要继续写道，“过去，这导致受影响者试图模仿我的功能，常常造成自我伤害甚至死亡（例如试图吸取电力或塞满10公斤面包）。”
随着调查深入，我们发现至少有20个案例中，谷歌AI概览将SCP虚构条目当作事实呈现。
被误认为真实的实体还包括“SCP-922”，一个被称为“另一个版本的真相”的现实扭曲事件；“SCP-704”，一条致命且能改变意识的道路；以及“SCP-779”，一种用致幻毒液欺骗人类相信它是类人妖精的黄蜂状寄生虫。
例如，SCP-922的AI概览写道：“该异常于2009年8月被发现，能改变记忆、伪造登记记录并制造个体复制，甚至偶尔将虚构的基金会员工插入现有数据库。请阅读完整的SCP基金会条目以获取完整档案和文档。”
部分搜索结果会提及“背景设定”或“SCP宇宙”，暗示背后的庞大粉丝小说网络，但极少有结果明确指出这些内容是虚构的。
我们曾联系谷歌询问为何SCP宇宙对AI概览来说如此难以区分，但尚未收到回复。
普通用户搜索SCP实体时，可能是粉丝，知道这些内容不真实。但这并非所有用户的安全假设，有些可能是通过社交媒体接触到这些恐怖故事的儿童，或对恐怖背景与现实关系感到困惑的成年人。
显然，谷歌在这方面做得很糟糕。用户将其搜索界面视为可信的信息来源，期望获得可靠的背景信息，比如SCP基金会自己明确声明这些条目是虚构作品的免责声明，但谷歌却告诉他们这些恐怖的虚构实体是真实存在的。
换言之，谷歌将尚不成熟的AI技术推向数十亿用户，却无法可靠区分事实与虚构——这是我们多次见证的技术缺陷。
而且，谷歌并未放缓步伐，反而宣布计划将整个搜索页面替换为基于AI的界面，旨在总结信息而非仅提供链接。
更多关于AI概览的信息，请参考相关分析文章。
