据《金融时报》报道，Anthropic表示，今年已阻止多起疑似利用其AI技术开展生物武器相关研究的尝试，并在一份恶意活动报告中披露5个案例。公司称，相关人员曾绕过安全管控并隐瞒研究目的。其中，一名来自“不受支持地区”的研究人员使用Claude连续数周规划禽流感实验，系统随后将其限制在性能最低的模型上。Anthropic表示，无法确认相关人员是否有伤害意图，因为同类信息也可用于疫苗研发。公司已封禁涉事账户，但未公布其所属机构和所在国家，并希望推动行业与政府讨论新兴生物风险及监管措施。
据《金融时报》报道，Anthropic表示，今年已阻止多起疑似利用其AI技术开展生物武器相关研究的尝试，并在一份恶意活动报告中披露5个案例。公司称，相关人员曾绕过安全管控并隐瞒研究目的。其中，一名来自“不受支持地区”的研究人员使用Claude连续数周规划禽流感实验，系统随后将其限制在性能最低的模型上。Anthropic表示，无法确认相关人员是否有伤害意图，因为同类信息也可用于疫苗研发。公司已封禁涉事账户，但未公布其所属机构和所在国家，并希望推动行业与政府讨论新兴生物风险及监管措施。