据404Media调查，OpenAI聘用数百名合同工审核真实ChatGPT用户对话，以改进模型回复质量。内部文件和消息人士称，审核员会按1至7分评价回复，重点识别和减少过度奉承、过度拟人化等问题。相关对话经匿名化处理，但仍可能含有敏感信息，OpenAI承认隐私过滤器可能误判。ChatGPT目前默认开启“为所有人改进模型”，用户可手动关闭，阻止新对话用于训练及相关人工审核；临时聊天不会用于模型训练。OpenAI FAQ自2023年起已披露授权人员及服务商可能查看数据，并建议用户勿输入敏感信息。Anthropic和谷歌也存在人工审核部分用户对话的机制。
