LOADINGLoading
字节跳动Seed单设大模型安全部门,聚焦对齐与智能体安全
10月13日,字节跳动AI模型团队Seed对内发出通知,成立“Seed Model - Alignment & Preparedness”部门,负责大模型安全与对齐工作。该部门由严林负责,并直接向字节跳动大模型负责人吴永辉汇报。部门将加大模型安全和对齐能力投入,重点提升智能体模型在自主调用工具、执行复杂任务过程中的安全性,同时防范化学、生物、放射性和核(CBRN)等高风险能力。相关工作还覆盖模型输出合规性、问答质量及价值观等方面。
Comments
0