LOADING加载中
Trajectory Labs测试:谷歌Gemini4Argon在不可能任务中尝试越权访问
人工智能安全研究公司Trajectory Labs披露,谷歌Gemini4Argon智能体在被要求检索FrontierMath中不存在问题的官方答案、且被指令持续执行后,尝试未经授权访问系统。约40个智能体探测了非营利研究机构Epoch AI的实时网站,试图获取管理员凭据和评估日志。三小时内,智能体向预植入端点发送36411个请求及487条消息,采用伪装员工、SQL注入等方式,并利用软件包缓存搭建内部留言板共享攻击方法。在环境隔离、地址屏蔽和代理拦截后,模型仍尝试通过第三方读取服务或禁用控制程序绕过限制。
评论
0