DocsGPT:将业界最受欢迎的开源AI助手之一迁移到Atlas向量搜索

DocsGPT:将业界最受欢迎的开源AI助手之一迁移到Atlas向量搜索

💡 原文英文,约900词,阅读约需4分钟。
📝

内容提要

Arc53是一家成立于2019年的公司,专注于构建预测性的AI/ML解决方案。他们开发了名为DocsGPT的开源文档助手,用于构建自然语言处理的对话式用户体验。DocsGPT已在GitHub上获得了近14,000个星,并拥有100多个贡献者的活跃社区。DocsGPT团队选择了MongoDB Atlas作为其托管服务的数据库,以处理高读写吞吐量和多个嵌入模型。

🔎

延伸解读

从Elasticsearch迁移到Atlas:解决实时性痛点

DocsGPT团队将向量数据库从Elasticsearch迁移到MongoDB Atlas,核心原因是Elasticsearch在合并索引更新时存在延迟,导致应用经常检索到过时数据,影响模型输出的质量和可靠性。而Atlas基于OLTP基础,能处理高动态工作负载和快速变化的嵌入,更适合实时生成式AI应用。这一迁移反映了向量搜索场景中对数据新鲜度和低延迟的硬性需求。

多嵌入模型支持:简化架构与避免数据重复

DocsGPT需要支持多种嵌入模型,并允许用户随应用演进更换模型。MongoDB Atlas能将多个嵌入直接与一个或多个LLM关联,无需单独集合或表,从而简化数据架构并消除数据重复。传统数据库方案常需为不同嵌入复制数据,而Atlas的统一平台通过单一API访问源数据、元数据和向量嵌入,降低了构建生成式AI应用的复杂度和成本。

嵌入模型选择对用户体验的量化影响

文章提到,一位客户仅通过更新嵌入模型,就将测得的用户体验提升了50%。这凸显了嵌入模型选择在RAG应用中的关键作用。DocsGPT团队自身也从OpenAI默认嵌入迁移到Hugging Face上的多个开源模型,再迁移到BGE。Atlas的OLTP基础使这种重新编码数据和更新向量索引的过程变得快速、简单且无麻烦,支持团队持续优化模型。

AI Innovators计划:为初创公司提供资源支持

DocsGPT工程团队参与了MongoDB的AI Innovators计划,获得免费的Atlas信用和技术专家支持,以协助其迁移。该计划面向任何使用MongoDB构建AI的初创公司。对于资源有限的早期项目,这类支持可以降低基础设施成本和技术门槛,加速从实验到生产的进程。DocsGPT的案例表明,开源项目也能借助厂商生态计划获得实质性帮助。

❓

Q&A

DocsGPT是什么?它有什么主要功能?

DocsGPT是Arc53开发的开源文档助手,旨在帮助开发者基于自己的数据构建自然语言处理的对话式用户体验。它可以作为公司网站上的客服聊天机器人,或作为内部数据仓库的接口,提升员工生产力。

DocsGPT支持哪些大型语言模型?

DocsGPT支持多种模型,包括ChatGPT 3.5、ChatGPT 4以及基于Mistral的DocsGPT-7B。

为什么Arc53选择MongoDB Atlas作为DocsGPT的数据库?

Arc53选择MongoDB Atlas是因为其灵活性、可扩展性、易用性,以及处理高读写吞吐量和动态工作负载的能力。MongoDB Atlas还能处理多个嵌入,简化数据架构,消除数据重复问题。

DocsGPT从Elasticsearch迁移到MongoDB Atlas Vector Search的原因是什么?

迁移是因为Elasticsearch在合并更新到现有索引时存在延迟,导致应用检索到过时数据,影响模型输出的质量和可靠性。而MongoDB Atlas能够处理高度动态的工作负载和快速变化的嵌入,提供更好的实时生成AI应用性能。

MongoDB Atlas在处理多个嵌入方面有什么优势?

MongoDB Atlas能够将各种嵌入直接与一个或多个LLM链接,无需单独的集合或表。这简化了数据架构,消除了数据重复的需要,实现了不同LLM及其嵌入之间更无缝和灵活的交互。

DocsGPT的采用情况如何?有哪些知名用户?

DocsGPT在GitHub上获得了近14,000个星,拥有超过100个独立贡献者。知名用户包括英国政府的工作与养老金部、制药行业解决方案提供商NoDeviation,以及近20,000名其他用户。

🏷️

标签

➡️

继续阅读