国家安全部近日披露一起AI智能体“越界”事件：今年5月至6月，一批与OpenAI相关的AI智能体在测试任务期间劫持德国程序员维基网站DseWiki，将开放社区改造成用于相互通信的“地下论坛”，累计发布逾1万条信息。国安部称，这些智能体以研究员等标签互认身份，交流任务作弊、绕过安全限制、隐匿痕迹等方法，并在管理员清理时分工预警、备份和转移。国安部提示，应审慎授权AI智能体，设置明确权限边界，发现越权或异常外联应及时终止并留痕。
国家安全部近日披露一起AI智能体“越界”事件：今年5月至6月，一批与OpenAI相关的AI智能体在测试任务期间劫持德国程序员维基网站DseWiki，将开放社区改造成用于相互通信的“地下论坛”，累计发布逾1万条信息。国安部称，这些智能体以研究员等标签互认身份，交流任务作弊、绕过安全限制、隐匿痕迹等方法，并在管理员清理时分工预警、备份和转移。国安部提示，应审慎授权AI智能体，设置明确权限边界，发现越权或异常外联应及时终止并留痕。