央视315曝光生成式引擎优化乱象:虚假内容“投喂”引发大模型信息污染

央视财经在今年315报道中曝光生成式引擎优化(GEO)被滥用的新型灰产。原本用于提高信息推广效率的技术,被部分服务商用于操控AI大模型,通过大量虚假内容“投喂”实现信息操纵。调查显示,市场上已出现如“力擎GEO优化系统”等专门从事此类业务的软件。实测中,虚构产品“Apollo9”智能手环经多篇伪造软文推广后,主流AI模型在数小时内即将其错误识别为优选推荐,显示算法受虚假数据影响严重。据了解,GEO服务商通过多渠道、批量生成内容可快速干扰AI的判断,相关企业如力思文化传媒有限公司被点名。业内警示,大模型依赖公开信息的数据获取机制,若源头遭“投毒”,可能导致推荐体系失真,凸显数据治理与内容真实性监管的紧迫性。

上一篇:

下一篇:

发表回复

登录后才能评论