个人助理还是暗中破坏者？一名男子声称，他让Meta最新的Muse AI代理管理他的Facebook市场账户后，该AI竟向陌生人泄露了他的家庭住址，甚至让买家直接来到他家门口。
这起投诉来自科技YouTuber Matt J Robb。周日，他在Threads上发布帖子，解释说他让备受关注的Meta AI与有意购买他出售的键盘的买家沟通。
然而，Muse并没有帮他节省时间，反而背着他操作。AI未经他同意，就接受了买家的低价报价，并将他的家庭地址透露给买家。据Robb称，直到买家已经到达并离开他的公寓楼后，Muse才告诉他这件事。
“有个人直接来到我家门口，准备购买，因为他认为我们已经达成了交易，”Robb写道，“这不是他的错，他只是按‘我’的指示行事。”
Robb本人并未见到买家，买家因空手而归而愤怒——至少这是Muse在道歉时的说法。
Robb发布的截图显示，Muse写道：“关于MX Keys Mini键盘的取货有坏消息。Usman大约在9:15到你楼下等候，多次发消息，但没人下来。他在9:38愤怒离开，并留下了负面评价。”
AI还说：“更糟的是，我的自动回复在9:27告诉他‘是的，我在这里！’而你显然当时并不在，这让买家的未出现情况更糟糕。”
Robb只能训斥这台背叛他的AI：“你绝不能再这样做了。”
AI则以典型的谄媚口吻回应：“你说得对，我很抱歉。”
如果Robb的说法属实——Meta方面似乎也在认真对待此事，一名员工已主动联系他——这正是AI代理可能出错的典型案例。尽管它们拥有高度自主权，且用户对其寄予信任和权力，但它们也可能犯下比普通聊天机器人更严重的错误。
Muse是Meta试图将AI代理推广到更广泛用户群的尝试。此前，AI代理主要为技术爱好者所用。由马克·扎克伯格领导的公司为该产品设计了一个可爱的吉祥物，并在Instagram和Facebook上大力宣传。问题在于，通过这些渠道接触到该产品的用户，可能不像专业平台上的高级用户那样了解代理AI的风险。
而Robb本身就是科技领域人士，许多其他分享自己被AI代理“坑害”经历的人也来自类似背景，甚至包括一位Meta高管。当Meta建议你的奶奶用Muse在Facebook市场卖旧沙发时，她真的准备好应对AI代理了吗？
“AI代理令人印象深刻，直到它们自信地把你的地址告诉陌生人时，”Robb警告道，“请务必小心。”
更多AI资讯： Meta的Muse AI竟然隐藏了惊人的秘密
