OpenAI将为ChatGPT增设危险对话中断及封号机制

OpenAI宣布，未来几周将升级ChatGPT对暴力内容的处理机制。当对话持续涉及暴力或严重伤害他人的想法时，模型可主动结束对话；同一账号多次触发中断，可能被封禁。新规适用于所有用户，并收紧对历史袭击事件的回答，限制提供武器、装备及获取途径等细节，也将减少可能放大施害者知名度的伤亡人数比较。对识别为未成年人的账号，系统还会拦截可用于实施暴力的武器和安防系统实用信息，即使提问未显露暴力意图。青少年仍可咨询暴力预防、缓和冲突及寻求可信成年人帮助等内容。OpenAI还将通过多重信号预测用户年龄，误判者可提交身份信息核验。