/cdn.vox-cdn.com/uploads/chorus_asset/file/24440533/AI_Hands_A_Bernis_02.jpg)
谷歌紧急手动删除搜索中的奇怪AI回答
内容提要
谷歌的新AI概览产品出现问题，导致用户看到奇怪的建议。谷歌正在手动禁用特定搜索的AI概览以解决这个问题。谷歌首席执行官表示，公司在过去一年中提供了超过10亿次查询。谷歌正在删除某些查询的AI概览并改进系统。AI专家认为，提高正确率的最后20%可能是最困难的部分。谷歌面临竞争压力，声誉取决于基本功能的正确性。
延伸解读
手动干预暴露技术不成熟
谷歌手动禁用特定搜索的AI概览，反映出该功能在真实场景中仍不可靠。尽管已测试一年，但错误回答频出，说明系统对边缘案例的处理能力不足。手动干预虽能暂时缓解问题，却无法从根本上解决AI生成内容的准确性缺陷，也凸显了大规模部署前的测试盲区。
最后20%的准确率为何最难
AI专家Gary Marcus指出，AI系统从80%正确提升到100%极其困难，因为最后20%需要推理和事实核查能力，类似人类事实检查员的工作，可能需通用人工智能（AGI）。当前大语言模型无法实现AGI，因此谷歌AI概览的准确性瓶颈短期内难以突破，错误可能持续存在。
竞争压力下的仓促发布
谷歌面临多重竞争：Bing早于谷歌布局AI搜索，OpenAI据传开发搜索引擎，新兴AI搜索初创公司估值达10亿美元，年轻用户转向TikTok。这种压力导致AI发布仓促，类似Meta的Galactica因错误建议被下架。谷歌声誉取决于基本功能正确性，但当前表现不佳，可能影响用户信任。
Q&A
谷歌的AI概览产品出现了什么问题？
谷歌的AI概览产品出现了奇怪的建议，导致用户看到不合适的内容，比如建议在比萨上涂胶水或吃石头。
谷歌如何应对AI概览中的奇怪建议？
谷歌正在手动禁用特定搜索的AI概览，以解决用户看到的奇怪建议问题。
谷歌的AI概览产品在过去一年中处理了多少查询？
谷歌在过去一年中提供了超过10亿次查询。
AI专家对提高AI正确率的看法是什么？
AI专家认为，提高正确率的最后20%是最困难的部分，需要进行推理和验证信息的合法性。
谷歌的AI概览产品目前处于什么阶段？
谷歌的AI概览功能仍处于早期阶段，面临来自竞争对手的压力。
谷歌对AI概览的未来有什么计划？
谷歌对AI概览有宏伟计划，包括多步骤推理和生成AI组织的结果页面等功能。
