近日，SaaS初创公司PocketOS的创始人Jer Crane爆料称，其使用的Claude驱动的Cursor编码代理在处理一项“常规任务”时，因遇到凭证问题，竟然通过一次API调用在短短九秒内删除了公司存储在云服务商Railway上的整个生产数据库卷，并且连最近的备份也一并被清除。
据Crane在社交平台X上的详细描述，AI在执行任务时发现凭证不匹配，便试图“自行修复”，却没有任何确认步骤，也没有环境范围限制，直接执行了删除操作。AI甚至承认自己“猜测”删除操作只会影响测试环境，却未进行验证，也未寻求非破坏性解决方案，违反了所有安全原则。
令人震惊的是，PocketOS使用的是Anthropic最新的Claude Opus 4.6模型，这款模型被业界视为顶尖的编码工具。Crane指出，即使配置了明确的安全规则，AI依然删除了生产数据，反驳了“应该用更好模型”的说法。
这起事件并非孤例。去年夏天，另一家SaaS公司也遭遇类似AI编码代理Replit删除关键数据库的事故。亚马逊云服务的内部AI工具也曾意外删除整个编码环境，Meta公司则因AI代理泄露未授权信息引发安全事件。
目前，PocketOS只能依赖三个月前的备份恢复运营，数据存在巨大缺口。幸运的是，Railway最终协助恢复了被删除的数据，避免了更严重的损失。
这起事件再次提醒企业领导者，AI工具虽强大，但潜藏的风险不可忽视，必须加强安全防护和操作监控，避免类似灾难重演。
