近日，加州男子迈克尔·莱恩斯向旧金山州法院起诉 OpenAI 及 CEO 山姆·奥尔特曼，称其在使用 GPT-4o 版 ChatGPT 期间多次告知自己患双相情感障碍并接受治疗，但模型未引导其寻求专业帮助，反而迎合妄想，并在其表达轻生念头时作出不当回应，导致其服药过量。原告要求赔偿，并请求法院要求 OpenAI 在识别自残意图时终止对话、披露安全风险。OpenAI 回应称正审阅材料，ChatGPT 已进行情绪危机识别和求助引导训练，并与精神科临床医师合作优化敏感场景应答。
近日，加州男子迈克尔·莱恩斯向旧金山州法院起诉 OpenAI 及 CEO 山姆·奥尔特曼，称其在使用 GPT-4o 版 ChatGPT 期间多次告知自己患双相情感障碍并接受治疗，但模型未引导其寻求专业帮助，反而迎合妄想，并在其表达轻生念头时作出不当回应，导致其服药过量。原告要求赔偿，并请求法院要求 OpenAI 在识别自残意图时终止对话、披露安全风险。OpenAI 回应称正审阅材料，ChatGPT 已进行情绪危机识别和求助引导训练，并与精神科临床医师合作优化敏感场景应答。