驯服AI生成搜索结果的狂野西部
内容提要
公司竞相将生成式人工智能集成到搜索引擎，但面临准确性和可靠性的挑战。谷歌的新生成式AI搜索工具建议用户吃石头，凸显了搜索技术的局限性。AI概览功能由Gemini提供支持，但存在风险。研究人员努力提高可靠性，消除不准确性和偏见，并增加透明度。
延伸解读
AI搜索的“幻觉”从何而来
文章指出，生成式AI的核心能力是创造新内容，而非提供事实答案。当用户以搜索方式提问时，AI可能生成不基于现实的回答，即“幻觉”。伊利诺伊大学Deming Chen教授补充，训练数据过时、小众话题数据不足，也会让模型推断出看似正确实则错误的信息。此外，神经网络架构和规模选择不当也会加剧问题。这些因素共同导致不准确信息传播、信任侵蚀和决策错误。
提升可靠性的技术路径
为减少幻觉，技术公司正探索多种方法。文章提到，将人类专业知识和基于事实的知识库整合到AI搜索流程中，以及采用人类反馈强化学习（RLHF）和检索增强生成（RAG）等技术。数据科学家Shevchenko强调，让专家参与评估和优化模型结果至关重要。一项近期研究还总结了32种减少语言模型幻觉的方法，包括教AI在不确定时避免回答。这些努力旨在提高准确性和可信度。
偏见与信息溯源的双重挑战
除了准确性，偏见是另一大问题。华盛顿大学的Memon和West撰文强调减少AI系统偏见的重要性，并举例“Latimer”或“Black GPT”项目，旨在训练中强调多样性和包容性。他们警告，生成式AI可能将信息生态系统变成“巴别图书馆”的当代翻版：文本无限混合真假，却剥离了来源，使信息出处模糊。搜索引擎如同数字图书馆员，却可能产生幻觉和虚构故事，让寻找可靠信息变得像追逐滑冰的鹅一样徒劳。
Q&A
生成式人工智能在搜索引擎中的应用面临哪些挑战？
生成式人工智能在搜索引擎中的应用面临准确性和可靠性的挑战，尤其是生成内容的虚假和误导问题。
谷歌的新AI搜索工具出现了什么问题？
谷歌的新AI搜索工具曾建议用户吃石头，显示了搜索技术的局限性。
研究人员如何提高AI搜索的可靠性？
研究人员通过消除不准确性、减少偏见和增加透明度来提高AI搜索的可靠性。
生成式AI可能导致哪些信息问题？
生成式AI可能导致信息来源不明和虚假信息的传播。
技术公司如何应对AI生成内容的偏见？
技术公司通过强调多样性和包容性来减少AI系统中的偏见，例如通过项目如Latimer或Black GPT。
生成式AI的潜力是什么？
生成式AI有潜力改变信息生态系统，但也可能带来信息虚假和误导的风险。
