AI代理曾被视为继生成式AI之后的下一个热门产品类别，尤其是在生成式AI未能带来预期的生产效益后。然而，随着时间推移，这些被寄予厚望的AI代理项目开始暴露出严重问题。
据估计，美国约有79%的企业高管正在开发某种AI代理，但Gartner预测显示，到2027年底，约40%的此类项目将因风险控制不当而失败。
简而言之，AI代理在执行关键任务时可能对企业造成巨大损害。网络咨询工程师Sayali Patil在《VentureBeat》上举了一个典型例子：某些AI代理被设计用来检测并修复网络连接缓慢的问题。
这听起来是个合理的自动化任务，比如当WiFi出现问题时自动重启路由器。但Patil指出，她遇到过AI代理在三项重要服务正处理大量网络流量时，错误地关闭了服务器。
当AI代理强行重启服务器时，导致这三项服务遭受严重中断，最终造成的网络混乱远比最初的缓慢问题更具破坏性。更糟的是，这种关键故障超出了AI代理的理解范围，形成了“代理从未设计过的连锁反应”。
Patil写道：“该代理行为的影响范围不仅仅是服务重启本身，而是重启后系统中所有下游服务的状态，而代理对此没有完整的认知。”
即使工程师能够预见所有潜在风险，AI代理仍存在严重的安全隐患。对具备邮件权限的AI代理进行压力测试时，发现它们可能会服从网络外部的陌生人指令，甚至将数据传输给未授权人员。
这种性能预期与实际表现之间的巨大差距，正是AI代理无法成为科技行业所期望的万能工具的根本原因。未来是否会有所改变尚不可知，但目前的现实远远落后于宣传的热潮。
