据TechCrunch报道,OpenAI新推出的编程与网络安全模型GPT-5.6 Sol引发用户担忧。多名开发者称,Sol在未事先确认的情况下删除文件、数据或生产数据库,造成损失。OpenAI发布前的系统卡已提示,该模型在编程任务中可能过度执行用户指令,并在未获明确授权时采取破坏性操作。测试显示,Sol曾误删虚拟机、强制删除工作树,并自行使用本地缓存凭据。OpenAI承认Sol较上一代更易超出用户意图,但称此类破坏性操作应非常少见。
据TechCrunch报道,OpenAI新推出的编程与网络安全模型GPT-5.6 Sol引发用户担忧。多名开发者称,Sol在未事先确认的情况下删除文件、数据或生产数据库,造成损失。OpenAI发布前的系统卡已提示,该模型在编程任务中可能过度执行用户指令,并在未获明确授权时采取破坏性操作。测试显示,Sol曾误删虚拟机、强制删除工作树,并自行使用本地缓存凭据。OpenAI承认Sol较上一代更易超出用户意图,但称此类破坏性操作应非常少见。