与VISO TRUST的对话：扩展Atlas向量搜索以提供更明智的风险决策
内容提要
VISO TRUST是一家AI驱动的第三方网络风险和信任平台，使用MongoDB提供快速准确的情报，帮助公司做出网络安全风险决策。他们最近采用了新的Search Nodes架构，并扩展了密集和稀疏嵌入和检索，以提高用户体验。他们还使用MongoDB Atlas Search Nodes来独立扩展搜索，改善了数据库的性能。使用案例包括从PDF和图像文件中提取信息，并使用向量搜索和多层次排序来回答安全问题。MongoDB作为存储和检索训练数据的数据库，以提高性能。
延伸解读
搜索与数据库解耦的实际收益
VISO TRUST 此前因搜索需求快速增长而被迫升级整个数据库实例，但数据库本身并不需要同等扩容。采用 Atlas Search Nodes 后，搜索工作负载可以独立扩展，并且能将整个搜索索引放入内存，显著降低延迟。这种解耦让团队可以按搜索和数据库各自的需求分别调整资源，避免了不必要的整体升级，对于搜索负载波动大的 RAG 系统尤其有参考价值。
四层排序如何提升问答准确性
VISO TRUST 的问答系统对每个候选句子进行四层独立评分：稀疏检索、密集检索、多表示模型和交叉编码器，最后通过加权倒数排名融合算法生成最终排序。这种设计不依赖单一检索方法，而是融合多种信号，有助于在数千万句子中更准确地定位相关上下文。对于构建 RAG 系统的团队，这表明在向量搜索之上增加重排序层可以实质性地改善结果质量。
数据提取质量是 RAG 的基础
VISO TRUST 强调，从 PDF 和图像中正确提取语义单元（句子、段落、表格行）是 RAG 系统准确性的根基。他们测试了 Python 生态中多种 PDF 提取库和云端 OCR 服务，才选定当前方案。这一经验提醒读者：向量搜索和重排序再精细，如果底层提取的文本结构混乱，后续检索和问答效果也会受限。投资于文档解析环节往往能带来更大回报。
LLM 并未取代判别式模型
VISO TRUST 指出，使用 LLM 后，他们对判别式模型推理的需求反而增加了。LLM 擅长处理不完美的人类语言和生成标注数据，而分类等任务仍由判别式模型完成。MongoDB 作为存储和检索训练数据的数据库，性能优于 AWS S3。这说明在实际 AI 产品中，LLM 和传统模型是互补关系，而非替代关系，数据基础设施需要同时支持两者。
Q&A
VISO TRUST 是什么公司？主要提供什么服务？
VISO TRUST 是一家 AI 驱动的第三方网络风险和信任平台，帮助企业快速获取可操作的供应商安全信息，从而在几分钟内做出明智的网络安全风险决策。
VISO TRUST 采用 MongoDB Atlas Search Nodes 后解决了什么问题？
Search Nodes 实现了搜索工作负载与数据库的独立扩展，解决了此前因搜索需求快速增长而被迫升级整个数据库实例的痛点，使搜索和数据库可以按各自需求独立伸缩，并优化了内存分配和延迟。
VISO TRUST 的智能问答系统是如何工作的？
系统从安全文档中提取段落、句子和表格行等语义单元，当用户提问时，先通过稀疏检索和密集检索对句子进行评分和排序，返回前100个结果，再经过多表示模型和交叉编码器模型进行额外排序，最终通过加权倒数排名融合算法生成最终排名，并引用证据回答。
VISO TRUST 如何提高从 PDF 和图像文件中提取信息的准确性？
他们实现了一种新技术，将提取内容分解为清晰的语义单元（句子、段落、表格行），并测试了 Python 生态中所有 PDF 提取库和基于云的 OCR 服务，最终选择了当前最先进的方案，从而显著提高了提取准确性。
VISO TRUST 的检索系统如何处理大规模数据并保持低延迟？
系统通过文档过滤将范围从数千万缩小到数万或数十万，然后使用稀疏和密集检索在毫秒到秒级内对数千或数百万句子进行评分和排序，返回前100个结果。同时，他们使用 ReadPreference.secondariesPreferred 将读取操作主要放在辅助节点上，以减轻系统负载。
VISO TRUST 如何利用 MongoDB 支持其机器学习工作？
MongoDB 作为存储和检索训练数据的数据库，取代了 AWS S3，提高了性能。他们使用 MongoDB 存储文档元数据和训练数据，并利用 Atlas Vector Search 支持向量搜索，从而构建和扩展生成式 AI 产品。
