维基百科创始人吉米·威尔士曾将其称为“心灵的殿堂”。如今,十年过去,这一平台又承担起了抵御AI劣质内容的角色。

本月晚些时候,维基百科英文版正式禁止使用人工智能生成或改写文章内容。这一决定是在志愿编辑们多年零散尝试和激烈内部辩论后做出的。据404 Media报道,3月20日的投票以40票对2票的压倒性优势通过了严格限制大型语言模型(LLM)在维基百科上的使用的新政策。

新政策指出:“大型语言模型生成的文本往往违反维基百科的核心内容政策,因此禁止使用LLM生成或改写文章内容,除非符合以下例外情况。”

例外条款允许编辑者使用LLM对自己撰写的内容提出基础的文字编辑建议,并在人工审核后采纳,但前提是LLM不自行添加内容。政策强调,使用时需谨慎,因为LLM可能超出指令范围,改变文本含义,导致内容与引用来源不符。

此外,LLM也被允许协助翻译文章,但必须遵守现有的LLM辅助翻译规则,确保编辑者具备足够的双语能力以核实机器翻译的准确性。

这一举措标志着维基百科在AI内容泛滥问题上划清了界限。今年1月,维基百科还与亚马逊、微软、Meta和Perplexity等大型AI公司签署协议,旨在收回这些公司免费使用其庞大语料库训练语言模型所带来的服务器成本压力。

多年来,维基百科编辑们一直在争论AI的使用方式。一年前,一批编辑联合起来清除平台上的劣质AI内容。当维基媒体基金会尝试在文章顶部部署AI生成的摘要时,社区强烈反对,最终该实验被终止。

提出最新政策的维基百科编辑伊利亚斯·勒布鲁告诉404媒体,起初限制AI的政策似乎难以实施,但最近“氛围发生了变化,谨慎乐观的支持者转为真正的担忧”。他补充说:“近几个月来,关于LLM相关问题的管理报告越来越多,编辑们感到不堪重负。”

或许那些曾经持保留态度的人,已经被AI带来的“未来维基百科幽灵”所警醒——例如埃隆·马斯克的反“觉醒”维基百科替代品“Grokipedia”,由其聊天机器人Grok编写和编辑,其贡献包括对Cybertruck的过度美化以及无批判地引用新纳粹网站。

更多相关内容:研究显示《纽约时报》已发布大量AI生成的文章。