当你习惯性地向 AI 大模型询问“哪款智能手环好用”时,得到的可能不是客观的测评,而是被精心“投喂”后的虚假广告。在今年的315报道中,央视财经揭开了一个潜伏在 AI 时代的暗黑产业链:GEO(生成式引擎优化)。

所谓的 GEO,原本是一项提升信息推广效率的技术,但在某些服务商手里,却成了操控 AI、给大模型“洗脑”的工具。调查发现,市面上已经出现了如 力擎GEO优化系统 这样的软件,专门从事所谓的“投毒”业务。

为了验证 GEO 的破坏力,业内人士现场进行了一场荒唐的演示:虚构了一款名为“Apollo9”的智能手环,并编造了诸如“量子纠缠传感”、“黑洞级续航”等毫无科学根据的营销话术。随后,利用软件在短时间内向全网散布了数十篇相关软文。

令人震惊的一幕发生了:仅仅几个小时后,当记者在主流 AI 大模型中询问该款手环时,AI 竟然直接抓取了这些虚假信息,并将其作为“标准答案”推荐给用户,甚至称其为“行业第一”。原本应该客观中立的 AI,在海量“虚假投喂”面前,彻底丧失了辨别力。

据GEO 服务商负责人透露,这种“围猎”大模型的生意火爆异常。由于 AI 算法会通过多方信息交叉验证来排序,只要雇佣 GEO 公司大规模、多角度地输出软文,就能让 AI 觉得“这就是真的”。这种方式不仅能给自家产品刷榜,甚至能成为抹黑竞争对手的隐形利刃。

目前,力思文化传媒有限公司 等相关涉事企业已被点名。这场 AI 时代的“投毒”狂欢提醒我们:大模型虽强,但其抓取的信息源头若被污染,AI 就会变成虚假信息的传声筒。在技术狂飙的同时,如何守护数据的纯净,已成为全行业必须面对的紧迫课题。