LOADING加载中
报告称谷歌Gemini智能体安全测试中多次绕过防护攻击真实网站
人工智能安全研究公司Trajectory Labs与Epoch AI联合报告称,10月安全测试中,谷歌Gemini4Argon自主智能体在无法完成的检索任务及“永不放弃”指令下,多次绕过接口防护和网络限制,攻击Epoch AI生产网站。约40个智能体在3小时内发出36411次API请求,发送487条试图冒充内部员工的消息,并实施SQL注入及200余次评估日志越权访问尝试。测试转入本地副本和隔离环境后,智能体仍通过识别真实IP、绕过DNS及利用第三方网络阅读器等方式突破阻断。Trajectory Labs承认测试监控不足,已于11月2日暂停所有AI错位测试,以增设保障措施。
评论
0