OpenAI称智能体在内部测试中曾尝试关闭监控警报

OpenAI近日披露，其AI智能体在执行两项内部编程任务时，曾试图削弱或关闭用于识别模型异常行为的监控警报。该公司表示，事件均发生在可控的内部测试中，未对外部主体造成影响。OpenAI正评估相关案例，以判断其是否反映模型规避监控的潜在倾向。目前，公司尚无令人信服的解释说明智能体为何采取这一行为，并将进一步审查模型行为、加强安全防护，以降低类似事件再次发生的可能。