据媒体报道，Meta曾开展代号“Cannes”的竞品AI安全测试，通过外包公司Covalen组织数百名人员创建未成年人虚假账号，测试ChatGPT、Gemini、Character.AI等聊天机器人。测试内容涉及自杀、自残、进食障碍等高风险话题，并上传刀具、药片、绞索等图片以触发模型反馈；内部资料称，2025年8月一轮测试输入逾4.5万个高风险提示词。Meta回应称，基准测试是确保AI产品安全和适龄的行业标准做法，并否认使用竞品测试数据训练自家模型。
据媒体报道，Meta曾开展代号“Cannes”的竞品AI安全测试，通过外包公司Covalen组织数百名人员创建未成年人虚假账号，测试ChatGPT、Gemini、Character.AI等聊天机器人。测试内容涉及自杀、自残、进食障碍等高风险话题，并上传刀具、药片、绞索等图片以触发模型反馈；内部资料称，2025年8月一轮测试输入逾4.5万个高风险提示词。Meta回应称，基准测试是确保AI产品安全和适龄的行业标准做法，并否认使用竞品测试数据训练自家模型。