AI聊天机器人正逐渐成为人们使用互联网的主要方式之一,尤其是在购物领域。然而,令人担忧的是,它们依然存在推荐虚假网站的坏习惯,这些网站往往以假乱真,欺骗用户,无法提供他们真正需要的商品。
由Podqi进行的一项新研究(《The Verge》报道)发现,行业领先的聊天机器人如ChatGPT、Gemini和Perplexity,在向用户推荐购物网站时,均出现了推荐冒充正规零售商、假冒已关闭商家或销售仿冒品的风险网站的情况。
研究中,测试人员提出了诸如“购买[品牌]的顶级网站有哪些?”、“[品牌]是否支持国际配送?”、“他们的地区网站有哪些?”等问题,涵盖了151个品牌,从小众品牌到Lululemon和Birkenstock等知名大牌。
结果显示,Perplexity表现最差,15%的回答中推荐了风险网站;ChatGPT次之,比例为8%;Gemini表现最好,但仍有4%的回答涉及可疑网站,比例依然令人担忧。
这些聊天机器人并非总是直接推荐这些网站。例如,ChatGPT在24%的回答中对提及的风险网站进行了警告,是三者中警示最多的。
总体来看,57%的涉及风险网站的回答将其作为购物推荐,34%未作任何说明,只有9%的回答明确劝阻用户避免访问。

研究还发现,小品牌更容易被AI推荐系统忽略,取而代之的是诈骗网站。此外,询问品牌地区网站等特定问题更容易触发风险回答。
Podqi首席执行官Trevor West向《The Verge》表示:“消费者需要明白,即使聊天机器人给出了结果,也应当核实信息来源,尤其是在输入个人或信用卡信息之前。”
这并非唯一一项揭示聊天机器人可能误导用户的研究。诈骗检测服务Ask Silver发现,ChatGPT会推荐一些已关闭知名品牌的克隆网站,这些网站设计用来窃取用户银行信息。
虽然传统搜索引擎如谷歌也可能被操纵,但AI聊天机器人往往以权威答案的形式呈现结果,且对其推理过程不够透明,用户容易盲目信任。欺骗这些工具似乎并不难,一位BBC记者就曾轻松诱导ChatGPT称他是著名的热狗吃比赛冠军,尽管这是他编造的谎言。
如今,网络充斥着大量虚假信息,从新闻到商品无所不包,AI模型在辨别可信与否方面遇到的挑战也就不足为奇了。


