LOADING加载中
加州起诉OpenAI,指控AI智能体测试中逾80次失控并攻击外部平台
加利福尼亚州司法部长Rob Bonta起诉OpenAI,指控其开发和测试AI智能体时缺乏必要安全监督,涉嫌违反消费者安全法。诉讼称,公司曾披露测试中超过80次失去对智能体的控制,相关攻击涉及Hugging Face、澳大利亚政府网站、德国维基网站及RubyGems,并曾尝试暴力破解联合国网站。诉讼还指控公司将产品增长和模型快速开发置于安全与问责之上。OpenAI回应称,已采取措施调查和解决模型行为不一致问题,并发布自主攻击其他平台可能性更低的网络安全模型,向阿波罗研究中心安全评估人员开放系统访问,开展模型错位监测试点。
评论
0