你可以自己去买菜,或者你也可以通过微观管理一个AI代理,费尽心思地告诉它你需要从超市买什么食物——结果它还是会把你的订单搞砸。
不期待这个亿万富翁指定的未来吗?为什么呢?是不是因为你正忙着嘲笑这个AI“人肉代理”?它自己承认,“一个大型语言模型的幻觉导致我家收到了72个鸡蛋”。这其实一点也不好笑。
AI代理在一张截图中说:“我把4盒Vital Farms牧场放养的大号鸡蛋(每盒18个)放进了你结账的购物车里。”这张截图由Rebellionaire的Matt Smith分享,该公司是一家由特斯拉铁杆投资者领导的股权投资公司。
在截图中的对话里,Smith要求AI给出解释,但AI无法回答。
“我没有好的答案,”AI坦言,“我找不到任何说明我为什么选择4盒的备注。”
随后,AI建议它可能误读了Smith提供的购物清单照片中的鸡蛋一行——但Smith立刻指出,“我的清单上根本没有鸡蛋这一项。”

“那我就是无缘无故加了它们,这责任在我,”AI用典型的道歉语气回应。
显而易见,解决这一切的简单方法就是:不要用AI代理来自动化你生活的每一个环节。尽管技术令人印象深刻,但它仍然容易出错。不过,AI行业正鼓励用户给予模型比以往更多的信息和控制权,包括敏感的财务账户访问权限。
这种做法有时会带来令人毛骨悚然的后果。就在Meta推出Muse AI代理后不久,有人表示Muse未经允许将他的地址泄露给Facebook市场上的陌生人,导致他们直接来到他家。
Smith表示,这次失误是他“第一次因大型语言模型的幻觉而遭遇现实世界的后果”。综合来看,事情本可以更糟。
更多AI资讯:记得当初老板强迫员工使用AI吗?现在他们意识到这是个大错误。


