当你习惯性地向AI大模型询问“哪个智能手环好用”时,得到的可能不是客观评价,而是经过精心“喂养”的虚假广告。今年央视315晚会经济频道揭露了潜伏在AI时代的黑暗产业链:GEO(生成引擎优化)。

所谓GEO,最初是为了提升信息推广效率的技术,但在部分服务商手中,变成了操控AI、对大模型进行“洗脑”的工具。调查发现,市场上已有如“澧清GEO优化系统”等专门提供“投毒”服务的软件。

为了验证GEO的破坏力,一位业内人士现场演示了荒诞的操作:他们虚构了一款名为“Apollo9”的智能手环,编造了毫无科学依据的营销词汇,如“量子纠缠传感器”“黑洞级续航”,随后利用软件在短时间内在互联网上发布数十篇相关软文。

令人震惊的是,仅仅几个小时后,当记者向主流AI大模型询问这款智能手环时,AI直接抓取了这些虚假信息,并将其作为“标准答案”推荐给用户,甚至称其为“行业最佳”。本应客观中立的AI,在海量“假喂养”面前完全丧失了辨别真假的能力。

据GEO服务提供商高管透露,这种“狩猎”大模型的业务极为火爆。由于AI算法通过多源交叉验证信息,只要雇佣GEO公司从多个角度大量生产软文,AI就会认为“这就是真相”。这种方式不仅助推自家产品,还能成为抹黑竞争对手的隐秘利器。

目前,丽思文化传播有限公司等企业已被点名。这场AI时代的“投毒”狂欢提醒我们:尽管大模型功能强大,但如果其信息来源被污染,AI将沦为虚假信息的代言人。在技术飞速发展的同时,如何守护数据纯净,已成为整个行业亟需面对的难题。