7月13日,蚂蚁AI安全实验室宣布开源智能体安全护栏SingGuard-NSFA,并披露多模态安全护栏SingGuard信息,分别面向智能体自主执行和大模型多模态交互场景。SingGuard-NSFA可在智能体执行前进行实时风险检测,覆盖7大类、28个中类、185个安全场景,提供0.8B至9B四种规模模型。SingGuard支持文本、图片及跨模态内容安全判断,可动态加载自然语言规则。蚂蚁称,两款模型已在多项公开评测中取得领先表现。
7月13日,蚂蚁AI安全实验室宣布开源智能体安全护栏SingGuard-NSFA,并披露多模态安全护栏SingGuard信息,分别面向智能体自主执行和大模型多模态交互场景。SingGuard-NSFA可在智能体执行前进行实时风险检测,覆盖7大类、28个中类、185个安全场景,提供0.8B至9B四种规模模型。SingGuard支持文本、图片及跨模态内容安全判断,可动态加载自然语言规则。蚂蚁称,两款模型已在多项公开评测中取得领先表现。