全国网络安全标准化技术委员会近日发布《人工智能应用伦理安全指引1.0》，由阿里、华为、深度求索等联合起草，标志我国AI治理从倡议走向技术标准落地。指引将AI生命周期划分为开发、服务、使用三阶段，分别提出数据与模型安全设计、输出风险监测与“幻觉”管控、用户合规与隐私保护等要求，明确各环节责任主体。文件首次在标准层面提出大模型输出可靠性治理，对企业上线前安全审查形成约束，推动行业由规模导向转向安全与合规导向发展。
全国网络安全标准化技术委员会近日发布《人工智能应用伦理安全指引1.0》，由阿里、华为、深度求索等联合起草，标志我国AI治理从倡议走向技术标准落地。指引将AI生命周期划分为开发、服务、使用三阶段，分别提出数据与模型安全设计、输出风险监测与“幻觉”管控、用户合规与隐私保护等要求，明确各环节责任主体。文件首次在标准层面提出大模型输出可靠性治理，对企业上线前安全审查形成约束，推动行业由规模导向转向安全与合规导向发展。