Dust与Qdrant：利用AI解锁公司知识，提升员工生产力
内容提要
Dust公司利用Qdrant构建AI助手，提升员工生产力。通过检索增强生成技术，Dust整合公司数据，支持团队工作。选择Qdrant作为向量数据库，因其开源和灵活性，实现低延迟和高准确性，降低成本。未来，Dust将扩展平台功能，连接更多工具，推动企业AI战略。
延伸解读
为何选择RAG而非微调
Dust联合创始人Stanislas Polu指出，企业内部分布在Notion、Google Drive、Slack等SaaS应用中的共享知识，相比微调大模型所需的数据量只是“沧海一粟”。因此，Dust认为在微调技术成熟前，检索增强生成（RAG）是更可行的路径。这解释了为何Dust专注于构建连接企业数据源、通过RAG提供上下文感知的AI助手，而非尝试微调模型。
Qdrant的选型考量与部署策略
Dust评估了Pinecone和Weaviate，最终选择Qdrant，主要因为其开源、Rust编写且API设计良好。开源特性让Dust在快速扩展时能保持高控制力和可见性，而Rust则与Dust现有系统协同。部署上，Dust先采用Qdrant Cloud托管方案快速启动，并部署在Google Cloud的同一VPC内以集中计费并提升安全性；随着负载增长，再通过MMAP负载阈值和标量量化等特性优化扩展。
量化压缩带来的成本减半
Dust利用Qdrant的标量量化，在磁盘存储向量与内存保留量化向量之间取得平衡，从而减少内存中向量的占用。Polu表示，这让他们无需并行运行大量节点，在内存受限的情况下仍能维持良好性能，最终将成本降低了2倍。同时，Qdrant提供的RAM、磁盘和CPU历史图表等可观测性功能，帮助Dust有效规划扩展策略。
未来扩展方向
Dust计划继续完善平台，目标是成为企业执行内部GenAI战略的首选平台，以解锁公司知识并提升团队生产力。未来几个月，Dust将增加更多连接，如Intercom、Jira或Salesforce，并扩展结构化数据能力。这表明Dust正从支持非结构化数据检索，向更全面的企业工具集成和结构化数据处理演进。
Q&A
Dust公司如何利用Qdrant提升员工生产力？
Dust公司通过构建AI助手平台，利用Qdrant的向量数据库实现低延迟和高准确性的检索，整合公司数据，支持员工工作，从而提升生产力。
Dust选择Qdrant作为向量数据库的原因是什么？
Dust选择Qdrant是因为其开源、灵活性以及高效的数据管理能力，能够满足快速扩展的需求。
Dust在使用大型语言模型时面临哪些挑战？
Dust面临的挑战包括如何有效利用大型语言模型满足公司内部多样化的使用案例，以及数据量不足以进行模型微调。
Dust如何实现检索增强生成技术？
Dust通过访问和整合公司数据，使用检索增强生成技术来支持员工的工作，确保获取共享知识。
Dust未来有哪些扩展计划？
Dust计划扩展平台功能，连接更多工具如Intercom、Jira和Salesforce，以推动企业的AI战略。
使用Qdrant后，Dust在成本和性能上有哪些改善？
Dust通过使用Qdrant减少了内存中向量的占用，降低了成本，并在保持高性能的同时实现了更高的效率。
