RAG并未消亡：为何GPT-4.1的100万上下文窗口不会扼杀检索增强生成
原文英文，约400词，阅读约需2分钟。
📝
内容提要
OpenAI的GPT-4.1和Google的Gemini 2.5引发了对检索增强生成（RAG）的讨论。尽管大规模上下文窗口看似理想，但在实际应用中仍面临成本、延迟和规模等问题。RAG在数据追溯和处理复杂任务方面依然重要，未来将继续是企业的主要选择。
🔎
延伸解读
RAG的重要性
尽管GPT-4.1和Gemini 2.5提供了大规模上下文窗口，但RAG在数据追溯和处理复杂任务方面仍然不可或缺。对于企业和科学应用，能够追溯信息来源是确保数据可信度的关键，这使得RAG在未来仍将是主要选择。
成本与延迟的挑战
使用1M个token的查询会导致成本激增1000倍，且处理时间显著增加。这意味着在实际应用中，企业需要仔细评估大规模上下文窗口的可行性，以避免因高成本和延迟而影响业务效率。
多步骤工作流程的影响
现代AI应用往往涉及多步骤的工作流程，这使得单次查询的成本和延迟问题更加突出。企业在设计AI解决方案时，需考虑到这一点，以确保系统的可用性和经济性。
❓
Q&A
GPT-4.1的上下文窗口有多大？
GPT-4.1的上下文窗口为100万token。
RAG在现代AI应用中有什么重要性？
RAG在数据追溯和处理复杂任务方面仍然重要，是企业和科学应用中不可或缺的。
使用1M个token的成本和延迟问题是什么？
使用1M个token的查询成本会激增1000倍，处理时间也会显著增加，影响实际应用。
RAG是否会被新的上下文窗口技术取代？
目前RAG仍然是处理非平凡数据的唯一选择，尽管上下文窗口会继续增长。
大型语言模型在引用来源方面有什么局限性？
大型语言模型仍然无法原生引用来源，而RAG提供了必要的可追溯性。
RAG的查询通常有多少个token？
典型的RAG查询约为1000个token。
🏷️
