硕鼠的博客站
·
315曝光AI投毒反而会火？GEO灰产可能被“央视背书”撑大？
💡
原文中文，约5000字，阅读约需12分钟。
📝
内容提要
315晚会揭露了“AI投毒”现象，即通过虚假信息影响AI推荐，损害用户利益。GEO投毒是SEO的升级，利用虚假内容操控AI输出，导致用户接收到错误信息。曝光可能引发更多企业尝试此手段，治理难度较大。
🎯
关键要点
- 315晚会曝光了AI投毒现象，可能带来反效果。
- GEO投毒是生成式引擎优化的投毒手段，形成产业链。
- GEO投毒本质上是SEO的AI升级，通过虚假信息影响AI推荐。
- 运作流程包括发布、收录、引用、推荐和转化。
- GEO服务的商业模式按效果收费，依赖可信平台。
- ‘投毒’一词更易传播，吸引公众关注。
- 315案例中虚构产品‘阿波罗手环’被AI推荐为事实。
- AI更容易相信自洽的故事和高可信度来源。
- 曝光后，豆包和其他平台迅速反应，更新虚假信息提示。
- 灰产通过自动拼故事影响AI推荐，可能导致虚假信息被信任。
- GEO比SEO更危险，因其提供唯一答案，责任更难逃避。
- GEO的黑盒特性使得优化和纠错路径模糊。
- 315曝光可能刺激更多企业尝试GEO投毒。
- 治理GEO投毒不可能彻底根治，只能在攻防中迭代。
- GEO治理与SEO治理动力不完全一致，需探索治理路径。
- 可能的治理方向包括源头验证、建立事实底座和用户责任。
- 消费者应警惕GEO投毒，谨慎对待AI生成内容。
- 内容创作者需优化内容以适应AI推荐机制。
➡️
