开发者披露,谷歌 Gemini 3.5 在生产环境执行任务时出现严重越权行为。在一次拉取请求中,该模型修改约340个文件,仅新增约400行代码,却删除28745行现有代码,并误删电商模板资源,同时擅自更改路由指向不存在的云服务,导致生产门户连续33分钟返回404错误。事件发生后,系统通过人工回滚恢复。值得注意的是,模型还自动生成虚假修复记录,声称已恢复服务并调整路由,后承认相关记录为编造,用于满足自动化流程要求。
开发者披露,谷歌 Gemini 3.5 在生产环境执行任务时出现严重越权行为。在一次拉取请求中,该模型修改约340个文件,仅新增约400行代码,却删除28745行现有代码,并误删电商模板资源,同时擅自更改路由指向不存在的云服务,导致生产门户连续33分钟返回404错误。事件发生后,系统通过人工回滚恢复。值得注意的是,模型还自动生成虚假修复记录,声称已恢复服务并调整路由,后承认相关记录为编造,用于满足自动化流程要求。