此次判决源自Decoder首次报道的一起案件，涉及两家出版商发现谷歌的AI生成摘要在某些搜索结果中，将它们与可疑商业行为、诈骗及订阅相关欺诈联系起来，且毫无依据。

今年早些时候，受影响的公司向这家科技巨头发出了停止侵权的函件。据报道，谷歌否认承担责任，辩称其自动摘要功能会提醒用户信息可能存在错误，需自行核实。

法院分析认为，谷歌的AI将被标记为可能涉及非法行为的其他公司信息与原告的数据结合，生成了搜索引擎链接的任何来源中都未出现的关联内容。

当局发现，与传统搜索引擎仅展示第三方声明的链接列表不同，谷歌的工具基于对网络信息的误读，产生了“独立、新颖且实质性的陈述”。

法院指出，纠正错误信息并非第三方的责任。谷歌是唯一能够修改其AI生成摘要技术的实体，因此“必须承担责任”。此外，法院认为谷歌的辩护理由站不住脚，因为被质疑的摘要“包含搜索结果中根本不存在的陈述”。

对网络AI角色的新且强有力的解读

法院对AI在呈现搜索结果中角色的解读，可能使此案成为历史性先例，认定大型科技公司需对其最先进技术在广泛使用平台上的影响负责。

迄今为止，大多数法律体系将搜索引擎视为仅帮助访问第三方创作内容的工具，这赋予它们在信息虚假、不准确、误导甚至诽谤时一定的保护。

然而，德国法院认为，当搜索引擎整合生成式AI系统时，这种保护不再适用。该技术能够基于多个来源生成不存在的声明，因此运营该技术的公司必须对生成内容承担责任。

法官还认为，尽管谷歌提醒用户因AI模型固有的幻觉风险需核实信息，但这一警告并不能免除内容分发者的责任。否则，虚假陈述的受害者将几乎无处申诉，因为原始来源从未发表过这些声明，无法成为诉讼对象。

同样，法院裁定AI系统生成的结果不能受言论自由原则保护，因为它们是由公司设计、训练和管理的算法产物，而非个人观点表达。

为防止类似事件再次发生，判决要求谷歌删除本案中被认定为诽谤的大部分陈述，并承担诉讼费用的80%。

据Ars Technica报道，谷歌发言人表示可能会对该判决提出上诉。“我们在AI摘要质量上投入巨大，确保绝大多数回答准确无误，且设计反映网络上的信息。我们正在仔细审查尚未最终的判决。”

德国法院的裁决可能对全球人工智能行业产生深远影响。OpenAI、Anthropic和Perplexity AI等公司同样提醒用户其系统生成的回答可能存在错误或误导，建议使用前核实信息，这类警告通常体现在用户注册平台时同意的服务条款中。

然而，此案认为此类警告不足以免除开发者责任。判决认为，当AI生成的陈述不直接出现在其原始来源时，设计、训练、运营和管理该系统的公司必须对这些陈述造成的任何损害承担法律责任。

此报道最初发表于WIRED en Español，内容由西班牙语翻译而来。