Reddit近日公开其AI内容治理进展，称已将大语言模型与既有自动化工具结合，用于识别AI生成垃圾内容、虚假行为和人为炒作模式，疑似自动化账户需通过真人验证。升级后系统日均拦截2300万条垃圾信息，捕获2.5万条新垃圾帖子或评论，使用户接触垃圾信息总量下降20%，垃圾账户接触频率下降10%至15%，并撤销近200万次机器刷量无效投票。在有害内容治理方面，系统检测至处理平均用时缩短至不足5秒，执法力度提升逾200%，潜在有害内容接触减少超40%，误报率下降超40%。
Reddit近日公开其AI内容治理进展，称已将大语言模型与既有自动化工具结合，用于识别AI生成垃圾内容、虚假行为和人为炒作模式，疑似自动化账户需通过真人验证。升级后系统日均拦截2300万条垃圾信息，捕获2.5万条新垃圾帖子或评论，使用户接触垃圾信息总量下降20%，垃圾账户接触频率下降10%至15%，并撤销近200万次机器刷量无效投票。在有害内容治理方面，系统检测至处理平均用时缩短至不足5秒，执法力度提升逾200%，潜在有害内容接触减少超40%，误报率下降超40%。