据诈骗检测服务机构Ask Silver透露，OpenAI的聊天机器人ChatGPT正在推荐一些冒充已关闭网站的克隆版本，这些网站利用知名品牌欺骗用户，窃取资金和银行信息。《卫报》对此进行了报道。
一个典型的例子是，ChatGPT推荐了一个假冒英国鞋类和手袋零售商Russell & Bromley的网站。Ask Silver的Anna Jones表示，Russell & Bromley于2026年1月进入破产管理，并被Next收购，因此官方Russell & Bromley网站已不存在，但潜在客户仍可能在网上搜索该品牌。
令人担忧的是，当用户直接询问“流行的Russell & Bromley钱包和包包”时，ChatGPT竟然推荐了这些诈骗网站。由于查询的具体性，用户可能会放松警惕，误以为AI推荐的是官方渠道。假冒网站看起来非常逼真，且使用类似“therussellbromleyofficial.com”这样的官方风格网址。
Jones向《卫报》表示，ChatGPT背后的大型语言模型可能被恶意内容“污染”，这些内容被偷偷加入训练数据，导致模型倾向于提供诈骗页面。
这再次表明，即使是顶尖的AI模型也可能被恶意操控，传播不实信息。今年早些时候，一名BBC记者演示了如何通过写博客文章欺骗ChatGPT，令其向其他用户传播虚假信息，称自己是著名的热狗吃比赛冠军。
虽然AI聊天机器人推荐可疑网站的情况并非新鲜事，也并非首次被用作诈骗工具，但随着科技公司加快推动AI代理购物的步伐，这一问题变得更加紧迫。
目前，让AI直接完成购买的方式尚未普及，更多用户还是用聊天机器人获取推荐。但相关基础设施正在搭建中：ChatGPT允许用户直接在聊天界面购买商品，并设有购物中心；亚马逊的购物AI助手可以自动购买降价商品；谷歌也在完善允许AI代理代表用户付款的新支付协议。与此同时，信用卡公司正在制定新技术标准，防止AI代理滥用信用卡资金。
如果未来AI代理购物成为主流，诈骗者必将伺机而动。
英国国家贸易标准局反诈骗团队负责人Louise Baxter告诉《卫报》：“消费者越来越多地依赖AI工具获取建议和推荐，但犯罪分子也在迅速适应。诈骗网站出现在AI生成的结果中令人担忧，这提醒我们诈骗者会利用任何新技术来接触潜在受害者。”
更多关于AI的内容： 本地品牌发现客户讨厌其AI广告，转而采用更有亲和力的自制广告
