微软安全团队警告，一种名为“AI 建议投毒”的新型攻击手段正在扩散。攻击者通过在网页的“AI 摘要”按钮中嵌入恶意指令，诱使AI生成偏见或误导性内容。这些恶意指令不仅影响当前输出，还可能长期存储在AI的记忆中，改变后续建议。
研究显示，该攻击已在14个行业的31家公司中检测到50多个独特的恶意提示词。受损的AI助手可能对医疗、金融和安全等领域的建议产生偏见，而用户对此毫无察觉。由于各种工具的存在，攻击者很容易在网页中集成这种恶意代码。
微软建议用户在点击AI相关链接时务必谨慎，并定期清理AI助手的存储记忆，以防止被“隐形操纵”。重要的是，用户应删除AI存储中的陌生记忆条目，并定期清空对话上下文，以确保不会长期受到误导。