本文探讨了如何识别和处理检索系统中的“弱检索”问题。通过定义检索窗口和使用信号（如得分分布、覆盖率和一致性），可以在不增加计算成本的情况下，提前识别需要改进的查询。最终目标是利用这些信号决定是否需要对检索结果进行重新排序或其他处理，以提升检索质量。

在生产环境中，RAG系统的主要瓶颈是检索，而非模型本身。随着数据量增加，检索质量下降，导致模型生成不准确的答案。有效的检索架构应结合混合检索、早期过滤和多阶段排名，以确保高召回率和低延迟。检索质量直接影响系统性能，需整体优化。

用户询问重置密码时，聊天机器人能快速提供正确答案，但询问退款政策时却返回不相关信息。RAG指标用于识别问题，优化架构和度量标准。检索质量、生成准确性和系统可靠性是关键，选择合适的指标应基于架构设计，以确保在生产环境中平衡质量、成本和速度。

向量搜索在人工智能中受到关注，但在检索增强生成（RAG）应用中，全文搜索提供更高精度。BM25算法通过词频、文档长度归一化和逆文档频率优化搜索结果。混合检索系统结合全文搜索与向量搜索，实现关键词精确匹配和语义回忆，提升检索质量。

每个AI项目都会面临并发用户和延迟峰值等挑战。选择向量数据库时，应关注性能、检索质量和操作复杂性。向量数据库通过存储高维向量嵌入来解决相似性搜索问题，适用于需要快速检索的场景。评估时需测试实际数据和查询模式，以确保满足需求。

pg_textsearch是一个Postgres扩展，旨在满足现代AI应用的需求，结合BM25排名和简单事务处理，提升检索质量，适用于RAG系统和混合搜索，支持向量搜索与关键词匹配的结合。

GitHub推出了新的Copilot嵌入模型，提升了VS Code中的代码搜索速度和准确性，检索质量提高了37.6%。该模型优化了内存使用，支持更快的响应，帮助开发者更有效地找到相关代码片段。

Fieldy AI迁移至Qdrant，构建了一个容错的AI记忆平台，实时记录和检索对话，支持多语言，增强用户信任。迁移后，系统稳定性和成本效益显著提升，未来将专注于提高检索质量。

新推出的voyage-3.5和voyage-3.5-lite嵌入模型在检索质量上优于前代产品，分别提高了2.66%和4.28%。这两款模型支持多维度嵌入，成本显著降低，分别比OpenAI-v3-large降低83%。它们在多个领域的评估中表现出色，提供更高的性价比。

新推出的voyage-3.5和voyage-3.5-lite嵌入模型在检索质量上优于前代产品，成本更低，支持多维嵌入，向量数据库成本减少83%，在多个领域表现超越OpenAI-v3-large。

RAG系统依赖于良好的数据结构和设计选择，检索质量、嵌入模型、分块策略和提示设计等因素影响其效果。传统方法可能导致上下文丢失和信息过载，而句子窗口检索通过关注单个句子及其上下文，提高了在法律和医疗等高精度领域的准确性。

voyage-3-large是一种新型多语言嵌入模型，在100个数据集的八个领域中表现优异，超越OpenAI-v3-large和Cohere-v3-English。该模型通过Matryoshka学习和量化训练，支持小维度和低存储成本，检索质量几乎不受影响，提供更高的灵活性和效率。

我们推出了voyage-3和voyage-3-lite嵌入模型，提升了检索质量并降低了成本。voyage-3在多个领域的表现超越OpenAI v3 large 7.55%，成本降低2.2倍；voyage-3-lite在检索准确性上比OpenAI v3 large高出3.82%，成本降低6倍。两者支持32K-token上下文长度，适合多种应用场景。