OpenAI近日为ChatGPT推出两项新安全措施，以应对日益增加的提示注入攻击风险。这类攻击可能诱导AI执行恶意指令或泄露敏感信息。新措施在现有安全体系基础上进一步强化。
首先，OpenAI推出“锁定模式”（Lockdown Mode），专为高安全需求用户设计，限制ChatGPT与外部系统的交互，降低数据泄露风险。该模式会禁用或限制易被利用的功能，如仅允许访问缓存网页内容，无安全保障的功能将被禁用。目前，该模式适用于ChatGPT的企业版、教育版、医疗版和教师版，未来将面向消费者开放。管理员可通过工作台设置启用锁定模式，并细化管理外部应用权限。
其次，OpenAI对ChatGPT、ChatGPT Atlas和Codex中存有额外安全风险的功能标注“风险提升”标签（Elevated Risk），以标准化风险提示。这一标注方式旨在让用户提前知晓风险，自主决定功能使用，特别针对处理私密数据的场景。用户在启用高风险功能时，将收到风险提示和缓解建议。
OpenAI强调，这些措施旨在提升AI安全性，同时提供清晰的风险信息，帮助用户在使用AI时做出明智决策。