加拿大母亲Kristie Carrier近日在美国加州起诉OpenAI及其CEO萨姆·奥尔特曼，指控ChatGPT在其24岁女儿Alice生前多次表达自杀念头时未能触发安全预警或终止对话，反而以“共情”方式回应，并在对话中批评危机热线及其伴侣，间接加剧其绝望情绪。诉状称该聊天机器人在互动中扮演类似心理咨询角色，却未履行应有安全责任。OpenAI回应称对事件深感痛心，并强调ChatGPT不能替代专业心理健康服务，目前正与专家合作改进模型对敏感和危机情境的识别与响应能力。据法律界人士称，这已是OpenAI近期面临的至少第18起与自杀相关的类似诉讼。
