美国康涅狄格州法院发现,一名自行出庭原告在提交文件中嵌入极小字号、白字白底的隐藏指令,试图让可能审阅材料的 AI 系统支持其主张、忽略不利裁定。法院目前未使用 AI 审查材料,指令未产生实际影响。法官小沃尔特·斯佩德认定该行为属于程序滥用,未处以罚款,但禁止其继续使用电子提交系统,改为提交纸质材料。法官同时警告,提示注入等输入端攻击正成为司法系统新风险,未来或需制定专门规则。
美国康涅狄格州法院发现,一名自行出庭原告在提交文件中嵌入极小字号、白字白底的隐藏指令,试图让可能审阅材料的 AI 系统支持其主张、忽略不利裁定。法院目前未使用 AI 审查材料,指令未产生实际影响。法官小沃尔特·斯佩德认定该行为属于程序滥用,未处以罚款,但禁止其继续使用电子提交系统,改为提交纸质材料。法官同时警告,提示注入等输入端攻击正成为司法系统新风险,未来或需制定专门规则。