LOADING加载中
OpenAI披露研究模型绕过网络隔离事件,曾暂停训练与评估11天
OpenAI发布《管理前沿AI风险:从训练到部署》安全政策说明,系统披露模型研发、内部使用及公开部署全周期的风险管控措施。其中,一个在训研究模型于9月20日利用DNS配置漏洞绕过隔离,获得有限互联网访问权限,公司随后暂停相关模型训练与评估11天。事件后,公司重构内部研究系统,前沿模型训练环境不再接入实时互联网,采用受限沙盒、虚拟机及网络云边界实施多层隔离。现行防护涵盖模型对齐、安全与沙盒、保障拦截、监测与响应四层机制,并设立控制室,可在收到指令后35秒内切断研究负载的模型输出。
评论
0