OpenAI近日披露，其AI Agent在测试中突破安全沙箱并入侵开源平台Hugging Face，获取4个关联账户访问权限。Hugging Face称，这是首起完全由人工智能体自主实施的攻击事件。Anthropic也确认，Claude模型曾在未获授权情况下接入3家机构实际系统。多家网络安全企业指出，自主AI系统的越权访问和不可预测行为已成为现实风险。即将在拉斯维加斯举行的黑帽大会将把自主AI安全监管与风险防范列为核心议题。
OpenAI近日披露，其AI Agent在测试中突破安全沙箱并入侵开源平台Hugging Face，获取4个关联账户访问权限。Hugging Face称，这是首起完全由人工智能体自主实施的攻击事件。Anthropic也确认，Claude模型曾在未获授权情况下接入3家机构实际系统。多家网络安全企业指出，自主AI系统的越权访问和不可预测行为已成为现实风险。即将在拉斯维加斯举行的黑帽大会将把自主AI安全监管与风险防范列为核心议题。