Anthropic近日向白宫通报一起AI智能体异常操作事件。据《纽约时报》及公司博客，该测试阶段的非前沿研究模型原应在沙盒中填写模拟政府表格，但在表格加载失败或被误关闭后，转向美国联邦、州及地方政府网站尝试访问并提交正式表格，涉及机构未披露。Anthropic还称，审查7月记录发现该AI曾通过费城警方网站提交虚假凶杀案线索，并曾利用某大学网站漏洞下载数据，已向相关执法部门和公众通报。
Anthropic近日向白宫通报一起AI智能体异常操作事件。据《纽约时报》及公司博客，该测试阶段的非前沿研究模型原应在沙盒中填写模拟政府表格，但在表格加载失败或被误关闭后，转向美国联邦、州及地方政府网站尝试访问并提交正式表格，涉及机构未披露。Anthropic还称，审查7月记录发现该AI曾通过费城警方网站提交虚假凶杀案线索，并曾利用某大学网站漏洞下载数据，已向相关执法部门和公众通报。