一份最新报告揭露了数千个充斥网络的AI生成食谱诈骗网站。

这份由Decrypt Ads发布的报告指出,该初创公司专注于追踪网络广告供应链,发现超过两千个网站疑似是利用AI生成内容的“内容农场”,伪装成由真实厨师或家庭厨师运营的博客。这些网站通过向谷歌等搜索引擎以及Pinterest等社交媒体平台推送虚假食谱,常依赖俄罗斯和中国的广告技术合作伙伴来实现盈利。

报告指出,“在某些领域,出版商公开隐瞒其所有者和作者身份,使用AI生成的照片和虚假背景故事已成为公开的秘密。AI生成的食谱网站是网络上AI垃圾内容增长最显著的领域之一。”

安全专家兼Decrypt Ads研究员扎克·爱德华兹告诉Futurism,他最初发现约400个发布AI生成食谱且使用虚假厨师名字的可疑网站。通过“技术指纹”追踪,他又找到了数百个相关域名,总计约2100个域名,许多似乎由同一批操作者控制。

“我们本来就预期这些操作者会尽力隐藏他们的网站,”爱德华兹说,“他们不希望外界知道他们拥有多少网站。”

报告还指出,这些虚假食谱网站在社交媒体上采取了“极具侵略性”的推广策略,爱德华兹特别提到这些品牌在Pinterest、Twitter和Facebook上都非常活跃。

“只要有视觉媒体的地方,”他补充道,“你都能看到这些AI作者试图吸引自然流量。”

报告中最具代表性的一个网站是“AddCakes”,一个声称由名叫“埃琳娜”的烘焙师运营的烘焙网站。埃琳娜被描述为一位忙碌的妈妈,想通过烘焙回归初心,却被复杂的蛋糕食谱和完美外观的压力所困扰。但令人啼笑皆非的是,这个“埃琳娜”形象明显是AI生成的英国著名女演员艾米莉·布朗特的虚假版本。艾米莉·布朗特曾主演《穿普拉达的女王》(2006)和《寂静之地》(2018)等知名电影。

A screenshot of "Elena," who is clearly an AI-generated version of Emily Blunt.

AddCakes显然赌的是没人能认出这些经过AI处理的名人形象,或者希望利用她的面孔吸引读者。网站甚至发布了“埃琳娜”在厨房烹饪和与其虚假AI生成的家庭成员共进晚餐的照片。根据前Twitter(现X)的地理数据,操控该网站的人位于摩洛哥。(艾米莉·布朗特本人并不居住在摩洛哥,其经纪人也未回应置评请求。)

An AI-generated image of "Elena" sitting at a table with her "family."

无论如何,千万不要相信这个AI生成的艾米莉·布朗特形象。爱德华兹强调,与中国和俄罗斯广告技术合作的这些网站对用户隐私构成风险,因为这些威权国家可能会收集用户的浏览数据。

“这份报告揭示了那些欺骗性出版商。他们的受众会受到影响,广告主也在浪费资金,”爱德华兹说,“但更重要的是,如果你访问这些网站且不屏蔽广告,你的数据基本上会被传送到威权国家。”

换句话说,AI生成的垃圾内容不仅充斥网络,还带来了安全隐患,而这一切都建立在根本的欺骗之上。

“这些AI食谱网站的‘关于我们’页面充斥着虚假的背景故事……比如某位女士是米其林星级厨师,曾在某豪华酒店工作,他们声称这些专家不仅编写了食谱,还亲自试验过。这样一来,用户就会觉得‘哇,我马上就能得到专家认证的食谱,这些内容经过严格审核。’”爱德华兹说,“但实际上,这些食谱很可能根本没人真正做过——真正的作者和网站所有者绝对没有亲自烹饪过,这才是最可怕的地方。”

他还表示,许多网站可能是从真实博主和创作者那里抓取内容创意,这些博主花费了大量时间、精力和专业知识来测试、拍摄和发布真实食谱。“这些人显然没有自己做食谱,他们每天发布几十个食谱,完全是自动化的发布流程,”这位研究员说,“这全是谎言……我认为我们必须让AI内容发布者承担责任,因为他们根本不关心自己的受众。”

更多关于虚假作者和网络的内容,请参见: 谷歌更新指南,惩罚使用虚假署名和AI生成头像的网站