Meta旗下平台正陷入困境，因大量令人震惊的AI生成内容广泛传播。近期一项调查发现，许多Facebook账户上传了大量暴力儿童虐待视频，而Meta对此似乎准备不足，且其模糊的政策显示出缺乏有效应对的意愿。
与此同时，马克·扎克伯格领导的公司正在通过新的方式让用户感到不安。作为其推动Meta在AI领域竞争力的努力之一，本周Meta推出了名为Muse的AI助手，但用户反馈显示该助手令人极度不适。
根据Meta的宣传，Muse旨在帮助用户处理繁琐事务，如订票、预约和填写表格等。然而，要真正享受这些便利，用户必须给予极高的信任。考虑到Meta在保护用户隐私方面的糟糕记录，这种信任可能是非常危险的。尽管Meta声称该服务运行在安全的“专用虚拟机”上，并且登录凭证存储在AI无法访问的地方，但要赢得用户信任仍任重道远。
《The Verge》的记者Emma Roth在测试中发现，Muse自动收集了大量关于她的个人信息。她将Gmail和亚马逊账户连接到Muse后，助手迅速拼凑出她访问家人的州信息，甚至坦言是从亚马逊订单的收货地址中获取的。
Muse还列出了她的“非常具体的兴趣”，远远超出Instagram广告设置中的兴趣标签，这些信息通常用来解释为何某些广告会针对特定用户。
这一体验让Roth对让Muse处理个人邮件和信用卡信息感到不安。
Meta这款令人毛骨悚然的AI聊天机器人，恰恰反映了科技公司不断推动用户交出更多个人信息以换取便利的趋势，这种价值交换极为不平衡。
这些公司多次证明无法妥善保护我们的隐私数据，而AI聊天机器人本身也正成为一种基于监控的网络安全噩梦，难以让人放心。
更多关于Meta的信息，请参见： Facebook托管大量令人震惊的AI生成暴力儿童虐待视频，Meta几乎不作为
