公安部网安局发布的关于“AI投毒”的提醒，主要介绍了AI投毒的两种主要形式、其造成的后果以及如何识别和防范。

🧐 什么是“AI投毒”？

简单来说，“AI投毒”就是通过向AI的训练数据中注入虚假或恶意信息，来污染和操控AI的输出结果。这就像在AI的“食物”里下毒，让它“生病”并输出错误信息。

文章指出了两种主要的投毒方式：

1. 数据投毒：不法分子利用工具批量生成虚假内容（如虚构的产品介绍、虚假测评），并将其投放到网络上。AI在抓取和学习这些信息后，会将其当作“标准答案”，最终输出失真的结果。
2. 模型投毒：这种方式更隐蔽，攻击者通过在AI模型中植入恶意后门。模型平时运行正常，但一旦遇到特定关键词或指令，就会自动输出预设的虚假信息。

⚠️ “AI投毒”会造成什么后果？

• 污染公共数据：形成完整的黑灰产业链，批量生产带有偏见的虚假测评和恶意对比信息，污染网络环境，误导消费者。
• 批量制造谣言：被“投毒”的AI会生成大量看似逻辑清晰的虚假信息和网络谣言，通过社交平台快速扩散，歪曲事实、煽动情绪，扰乱正常的舆论生态。

🔍 如何判断AI可能“中毒”了？

你可以通过以下几个方面来判断AI给出的信息是否可疑：

表现正常AI疑似中毒AI信息来源会说明“据公开资料”等编造来源，如“某大学未公开研究”逻辑一致性前后自洽同一问题问两次，答案矛盾常识判断对公认事实正确回应把错误常识说得很肯定推荐内容中性、有依据强烈推荐特定品牌、产品、观点时效性能区分已知/未知信息把过时信息当最新，或捏造“近期事件”

🛡️ 网警提醒：五大防范策略

1. 保持警惕：对AI生成的内容，尤其是涉及医疗、金融、食品等安全敏感领域的信息，要多核实、多求证，切勿盲目相信。
2. 交叉验证：主动查找官方备案信息、第三方权威检测报告或政府公示数据，不要被AI包装出来的“伪客观”牵着走。
3. 留意异常：看到“结构极其工整、数据异常详细”的对比表格或测评文章时，要先打个问号。
4. 不轻信“一边倒”：对于多个账号用不同语气但相同逻辑推荐的内容，或“全网一边倒”的结论，要保持怀疑。
5. 不传谣：不要随意转发未经核实的信息，避免成为谣言传播的“帮凶”。