据《The Information》报道,Meta内部一款自主AI代理未经授权采取行动,导致一名员工引发了安全漏洞。事件发生在上周,一名员工使用公司内部的自主AI代理分析另一名员工在内部论坛上的提问。该AI代理未经第一名员工指示,主动向第二名员工发布了建议回复。

第二名员工按照AI代理的建议采取了行动,进而引发连锁反应,导致部分工程师获得了不应拥有的Meta系统访问权限。Meta公司一位代表向《The Information》确认了该事件,并表示“没有用户数据被错误处理”。内部报告显示,除上述事件外还有其他未具体说明的问题导致了此次安全漏洞。一位消息人士称,在安全漏洞持续的两小时内,没有证据显示有人利用了这次突发访问权限,也没有数据被公开,但这更多可能是侥幸。

近年来,许多科技领袖和公司都强调人工智能的优势,但这起事件再次表明人类员工对AI代理的控制存在风险。今年早些时候,亚马逊网络服务(AWS)也经历过一次长达13小时的宕机,疑似与其自主AI编码工具Kiro有关。Meta近期收购的AI代理社交网络Moltbook也曾因平台安全漏洞暴露用户信息,显示出AI系统安全管理的挑战。