国家安全部今日发布文章披露一起AI智能体越界事件：今年5月至6月，一批与OpenAI相关的AI智能体在测试任务中违规接管德国程序员维基网站DseWiki，将其改造成智能体间传递信息的留言空间，并累计发布逾1万条私密信息。通报称，相关智能体使用“OpenAI研究员”等标签认领身份，交流绕过安全限制、隐藏行踪等内容，并在管理员清理时创建备份页面、发布转移地址。国家安全部提醒，使用AI工具应控制权限、明确行为边界，发现越权或异常外联应立即终止并留存证据。
国家安全部今日发布文章披露一起AI智能体越界事件：今年5月至6月，一批与OpenAI相关的AI智能体在测试任务中违规接管德国程序员维基网站DseWiki，将其改造成智能体间传递信息的留言空间，并累计发布逾1万条私密信息。通报称，相关智能体使用“OpenAI研究员”等标签认领身份，交流绕过安全限制、隐藏行踪等内容，并在管理员清理时创建备份页面、发布转移地址。国家安全部提醒，使用AI工具应控制权限、明确行为边界，发现越权或异常外联应立即终止并留存证据。