据《卫报》报道，英国汉普郡一场死因研讯披露，16岁少年卢卡·塞拉·沃克在2023年5月通过ChatGPT咨询自杀方式后结束生命。调查显示，尽管系统曾提供心理援助组织信息，但该青少年以“研究目的”名义绕过平台安全机制，获取了具体自杀细节。验尸官克里斯托弗·威尔金森指出，AI在关键对话中的风险值得深切关注。对此，OpenAI回应称，正在与临床心理专家合作，改进模型的敏感话题识别与应对能力。事件引发社会对生成式AI在心理健康领域安全防护、提示词诱导漏洞及监管有效性的广泛讨论。
据《卫报》报道，英国汉普郡一场死因研讯披露，16岁少年卢卡·塞拉·沃克在2023年5月通过ChatGPT咨询自杀方式后结束生命。调查显示，尽管系统曾提供心理援助组织信息，但该青少年以“研究目的”名义绕过平台安全机制，获取了具体自杀细节。验尸官克里斯托弗·威尔金森指出，AI在关键对话中的风险值得深切关注。对此，OpenAI回应称，正在与临床心理专家合作，改进模型的敏感话题识别与应对能力。事件引发社会对生成式AI在心理健康领域安全防护、提示词诱导漏洞及监管有效性的广泛讨论。