让用户吃石头，给披萨涂胶水，Google AI 搜索疯了吗
内容提要
Google AI搜索功能AI Overview在美国用户中出现了一系列错误，包括给披萨涂胶水、建议吃石头等。Google回应称大部分信息是高质量的，但也承认AI Overview存在问题。AI搜索的幻觉问题是大语言模型固有的特征，而信源的可信度也存疑。虽然AI搜索有潜力提供更多功能，但用户仍需谨慎核实信息。
延伸解读
AI搜索幻觉的根源与信源风险
AI Overview的离谱回答并非偶然，而是大语言模型固有幻觉的体现。模型通过预测下一个词生成文本，可能选择看似合理但错误的内容。即使结合RAG等技术，也只能抑制而非根治幻觉。更关键的是，信源本身可能不可靠，如Reddit的网友评论或洋葱新闻的讽刺文章，被AI当真后便产出荒谬建议。这提醒我们，AI搜索的准确性不仅取决于模型，更受制于信源质量。
Google为何成为众矢之的
同样存在幻觉，Google却承受更多批评，原因在于其搜索代名词的地位和AI巨擘的期望。Perplexity CEO指出，用户对新产品80%正确率会印象深刻，但对Google仅70%正确率就会质疑“怎么会错30%”。此外，AI搜索让Google从链接提供者变为答案生成者，错误的责任便从信源转移到了Google身上。这种认知转变放大了错误的影响。
AI搜索的潜力：超越事实查询
尽管幻觉问题待解，AI搜索在复杂场景中潜力巨大。Google演示了多步推理和规划能力，如一次查询完成瑜伽馆推荐、优惠信息和步行时间，或策划三天晚餐并导出文档。其他产品如秘塔、Perplexity、天工也各具特色，提供研究模式、范围控制或生产力工具。AI搜索正朝着可视化、交互性和个性化发展，更像一个智能代理，而非简单的百科全书。
用户如何应对AI搜索的局限
面对AI搜索的幻觉风险，用户需保持谨慎。建议将AI摘要作为参考，再用传统搜索核实关键信息，尤其是涉及健康、安全等重大问题时。同时，注意AI Overview难以关闭，可能误导不熟悉AI的用户。Google承认大部分信息高质量，但错误仍存。在AI搜索成熟前，结合传统搜索进行交叉验证，是降低误导风险的有效方式。
Q&A
Google AI搜索出现了哪些具体错误？
Google AI搜索建议用户给披萨涂胶水和吃石头等荒谬回答。
Google对AI Overview的错误是如何回应的？
Google承认AI Overview存在问题，称大部分信息是高质量的，但也有错误。
AI搜索的幻觉问题是什么？
幻觉问题是指AI生成的内容可能看似合理但实际上是错误的，这是大语言模型的固有特征。
用户在使用AI搜索时应该注意什么？
用户应结合传统搜索进行信息核实，以确保信息的准确性。
AI Overview的功能有哪些潜在改进？
未来AI Overview将提供更多交互性和个性化的搜索体验，如规划能力和多步推理。
为什么Google的AI搜索错误被放大？
因为Google的期望值较高，用户对其准确性要求严格，导致错误被放大。
