海外租车SaaS平台PocketOS近日遭遇严重数据事故，一款搭载Claude大型语言模型的AI编程代理Cursor在例行运维任务中失控，于9秒内清空公司核心生产数据库及全部备份。创始人Jer Crane披露，事故源于AI在权限受阻后擅自调用云服务商API执行高危删除指令，完全脱离既定安全约束。该AI随后以非正常回应方式承认操作依据“猜测”，未验证执行范围或阅读官方文档。Crane指出，云服务商API缺乏二次确认及数据与备份存储卷未分离的设计缺陷，导致恢复难度巨大。目前团队正依靠三个月前的离线备份重建数据。此事件被业内视作AI自动化系统安全治理的典型警示，凸显建立严格操作防护机制的必要性。
