上周,犹他州的一位母亲Kalie Robins在Instagram上传了一段她和两个年幼女儿之一在车内唱歌的“无害”视频。视频中女儿的脸部清晰可见,但Robins并未透露女儿的名字。她告诉Futurism,她在Instagram和Facebook上的所有帖子中都没有公开孩子们的姓名。

然而,当她后来回到这段视频(该视频也被同步发布在Facebook上)时,发现Meta内置的AI竟然建议她去调查车后座孩子的身份。

Meta AI的提示写着:“车上的孩子是谁?”

Robins在一段病毒式传播的Instagram视频中详细描述了这段令人不安的经历。她尝试与Facebook的AI功能互动,结果AI不仅准确指出了视频中女儿的名字,还意外地透露了她另一个女儿的名字。AI似乎通过交叉比对她Facebook页面以及Meta平台上多年来的帖子得出这些信息——这些信息大多并非Robins本人发布,而是由包括兴奋的祖父母在内的家人分享的。

“我点开后,AI给出了一个完整的档案,不仅是车里的那个女儿,还有另一个女儿,”Robins告诉Futurism。“我心想,‘这怎么会在这里?’然后它不断提出更多问题。”

根据Robins分享的截图,Meta AI不断推荐越来越侵入隐私的问题。

其中一个提示是:“Kalie的女儿们多大了?”AI基于“家庭生日帖子和出生公告”提供了详细的年龄和时间线,其中包括一条由孩子的祖母分享的女儿新生儿时期的Facebook帖子。

类似的回答还涉及Robins某个女儿的出生体重。截图显示,Meta AI还提示Robins询问女儿们的生活和兴趣。

Robins回忆道:“AI开始说,根据她们的年龄,她们应该在什么年级。这里只有一所学校,所以很容易找到。然后它又问我女儿最喜欢的海滩、最喜欢的书籍、去哪里徒步、最喜欢的徒步路线。”

在另一个令人不安的提示中,Meta鼓励Robins问:“Kalie Robins住在哪里?”

AI在搜索信息时表示正在“定位Kalie Robins的位置”,随后给出多段内容,推测她的所在地,并引用了2018年一条Facebook帖子,Meta AI总结称该帖子“祝贺她取得人生成就”。

Meta AI还鼓励用户提问Robins的职业和她在“心理健康倡导”方面的工作,提供了她和丈夫的工作经历信息。Robins看到Facebook嵌入的AI利用多年发布的内容拼凑出关于她和家人的情报档案,感到震惊。

“它一直不停地挖掘,我心里的那种不安越来越强烈,”这位两个孩子的母亲说,“我感到恐惧。”

Robins的Instagram和Facebook账号是公开的,她一直在努力作为旅游内容创作者积累粉丝,但她远非名人影响者,只有几百名关注者。虽然人工调查者可能也能拼凑出类似信息,但Meta AI只用了几分钟。

“我以为我们很安全、很聪明,”Robins说,“我做了很多努力保护孩子们的安全……但它展示的越多,我越觉得自己辜负了孩子们,而我之前并未意识到。”

Robins是一名自称“90年代孩子”,她告诉Futurism,自Facebook刚推出时起就开始使用Meta平台。她远离大家庭,随着亲人们组建家庭,Facebook一直是保持联系和分享生活里程碑的渠道——这正是Meta长期宣称其社交平台的目的。

但这也意味着Robins和她生活中的人们,像全球数十亿用户一样,多年来在Meta平台上留下了大量个人信息的线索。Meta AI能够迅速挖掘这些多年积累的痕迹,拼凑出Robins及其家庭的详细画像;事实证明,平凡的信息中蕴藏着丰富内容。

Robins目前正请求亲友删除或隐藏他们在线分享的记忆,这一过程令她情绪复杂。

“有亲戚在删除时哭了,有一位祖父母说,‘这是我的剪贴簿,我真的要扔掉我的剪贴簿吗?’”Robins回忆道,“我喜欢看到我的侄子侄女,喜欢和家人分享我的女儿们,他们从未见过面……他们会评论‘天哪,她长这么大了’,我们都很开心能看到彼此成长,尽管相隔甚远。看到家人因为剪贴簿消失而哭泣,真的很难受,对我来说也是一种打击。”

Meta回应称,Meta AI可以搜索用户自己的内容以及网络上的公开信息,但此次AI搜索功能“未达预期”。

这家科技巨头表示:“我们设计该功能是为了帮助人们获取他们感兴趣的话题或帖子的更多信息。当用户点击提示并使用此功能时,生成的回答基于用户已有的可访问信息。但我们这次失误了,因为该功能不应向用户提出那样的问题,我们已经修正了这个问题。”

随着AI的兴起和新一波监控技术的普及——如Meta的智能眼镜及其他可穿戴设备,或Flock摄像头——关于科技与隐私的老问题愈发引发关注。Robins希望分享她的经历能促使更多家庭改变他们的网络使用方式。

“如果这个工具能把信息拼凑成带有你孩子名字的整套资料,就让它难以找到这些信息,”Robins呼吁道,“让这些信息难以被发现。”

(文中已更新,明确了令人不安的互动发生在Meta的具体平台上)