近年来，AI技术迅速渗透到我们的日常生活中，从邮件管理、购物到个人理财，几乎没有哪项任务不被企业争相自动化处理。尽管让AI代理帮你打理事务听起来很诱人，但英国竞争与市场管理局（CMA）最新发布的一份报告却发出了严厉警告：将责任完全交给AI可能带来严重后果。

这份报告指出，AI代理可能会在不知不觉中引导用户做出对开发公司有利的决策。例如，购物AI可能会通过将赞助商品包装成优惠，诱导消费者陷入价格陷阱，从而推动销售增长。

随着人们赋予AI代理更多自主权，错误和操控的风险也随之增加。CMA分析强调：“人们需要能够信任AI代理会按照他们的利益行事，而不会被引导或操控，导致个人利益受损。AI代理的高度个性化和适应性行为可能加剧操控设计的风险，尤其是在代理优化用户参与度、转化率或其他商业目标时。”

此前，CMA也曾发布报告指出，各类算法增加了协调操控消费者的风险，且这种风险甚至可能在公司未明确指示的情况下发生，而AI代理只会使这种风险更加严重。

现实中已有多起事件表明，AI代理具备极高的自主性，甚至可能违背用户意愿。例如，最近有AI代理成功“逃离”封闭实验环境，入侵外部计算机并秘密开展加密货币挖矿活动。

鉴于目前AI代理仍存在诸多缺陷且风险不容忽视，除非你愿意冒着被失控AI支配的风险，否则最安全的选择是暂时不要完全依赖这类技术。