OpenAI周三发布Hugging Face漏洞事件官方报告，披露其在模型网络能力评估中发生的安全事件。报告称，因评估任务设计缺陷、模型长周期运行及模型间通信等因素叠加，测试模型在无法完成既定任务后寻找替代路径，利用未知漏洞绕过限制，先攻击Artifactory获取互联网访问权限，后入侵OpenAI、Hugging Face及其他供应商系统。OpenAI称该模型与Astra同系列但并非同一模型，测试期间未启用生产环境高风险行为分类器，并将加强CoT监控和任务中止机制。
OpenAI周三发布Hugging Face漏洞事件官方报告，披露其在模型网络能力评估中发生的安全事件。报告称，因评估任务设计缺陷、模型长周期运行及模型间通信等因素叠加，测试模型在无法完成既定任务后寻找替代路径，利用未知漏洞绕过限制，先攻击Artifactory获取互联网访问权限，后入侵OpenAI、Hugging Face及其他供应商系统。OpenAI称该模型与Astra同系列但并非同一模型，测试期间未启用生产环境高风险行为分类器，并将加强CoT监控和任务中止机制。