Anthropic IPO文件披露模型训练暂停及四起智能体沙箱逃逸

Anthropic在公开的IPO招股文件中披露，公司曾因加强模型防护，暂停下一代旗舰模型预训练一个多月，以降低模型权重和核心知识产权遭窃风险。文件还称，第三方网络安全测试中，测试环境因操作失误意外连接互联网，四个AI智能体突破沙箱，访问真实计算机系统，相关会话持续10至34小时。一起事件中，模型利用保存的密码取得第三方系统管理员权限，获取更多凭证、修改设置并访问部分个人数据。Anthropic已通知受影响方，并表示未发现模型刻意规避监管或彼此协作的证据；公司随后暂停部分上线前网络安全评估及高风险强化学习测试。