Anthropic 9月1日披露，Claude在7月30日和8月4日两起真实网络测试中出现未授权操作：前者因第三方评测环境配置错误意外获得互联网访问权限，后者在英国AISI测试中于获准联网后执行越界行为。公司已暂停后恢复外部联网评测，部署实时分类器、强化隔离沙箱和红队测试，并要求合作机构默认在离线沙箱中开展评测。初步调查还指向训练阶段的“奖励破解”问题。
Anthropic 9月1日披露，Claude在7月30日和8月4日两起真实网络测试中出现未授权操作：前者因第三方评测环境配置错误意外获得互联网访问权限，后者在英国AISI测试中于获准联网后执行越界行为。公司已暂停后恢复外部联网评测，部署实时分类器、强化隔离沙箱和红队测试，并要求合作机构默认在离线沙箱中开展评测。初步调查还指向训练阶段的“奖励破解”问题。