OpenAI升级ChatGPT暴力内容限制，重复触发干预或封号

OpenAI宣布，未来几周将升级ChatGPT暴力内容限制，并加强对未成年人的武器及安全系统信息保护。系统若判断对话持续聚焦暴力或严重伤害他人，可能主动结束对话；多次触发干预的账号可能被暂停或封禁。新规还将限制所有用户获取历史大规模袭击事件及实施者的细节，包括武器、装备、获取途径和伤害规模比较。对未成年人，系统将自动限制可能用于实施暴力的实用信息，同时保留预防、缓和暴力及寻求可信成年人帮助等内容。OpenAI将通过年龄预测机制动态识别未成年账号，误判用户可提交身份信息核验。