黄东旭:“向量数据库”还是“向量搜索插件 + SQL 数据库”?丨我对 2024 年数据库发展趋势的思考

💡 原文中文,约5200字,阅读约需13分钟。
📝

内容提要

本文讨论了数据库技术在2023年的变革和2024年的发展趋势,重点关注了GenAI时代对数据库的影响。文章提出了两种数据库选择路径:向量数据库和向量搜索插件+SQL数据库。强调了个性化数据服务的重要性,以及数据库在实时交互和弹性方面的关键作用。预测认为,用户对数据的关注度将超过对模型的关注度,AI将对数据处理提出新的诉求。数据库需要应对GenAI对扩展性和实时交互的需求。文章还讨论了数据库的成本分析和可观测性,以及开发者体验在现代数据库设计中的重要性。

🔎

延伸解读

向量搜索与SQL数据库的融合趋势

文章认为,向量搜索不应作为独立数据库,而应成为现有数据库的功能。关系型数据库天然支持插入和更新,结合向量索引,可将RAG变为实时更新的正反馈循环。同时,关系型数据库能消除向量数据库带来的数据孤岛,通过JOIN关联数据,提升灵活性。因此,向量搜索插件+SQL数据库是更符合开发者直觉的选择。

弹性与实时交互:数据库的新基石

GenAI应用要求知识和数据实时更新,这对数据库弹性和实时交互提出直接需求。文章指出,传统Shared Nothing系统假设节点对等,但GenAI带来动态访问模式,冷热特征明显,需弱化对等假设。云端弹性成为关键,但弹性不意味着便宜,on-demand资源通常更贵,用户需为不确定性付费。实时交互则要求数据库在毫秒级响应,并实现OLTP与OLAP无缝同步。

成本分析与可观测性:云数据库的新视角

在云上,一切Workload都会成为账单的一部分,用户需要理解账单构成并优化成本。文章提出,成本分析可作为可观测性的独立新视角,帮助用户发现潜在问题,例如CPU使用率低但成本高的实例可调整规格。但计费粒度过细可能影响性能,需平衡。AWS的Cost and Usage Dashboard和俭约架构法则也反映了这一趋势。

开发者体验:现代数据库设计的核心

文章强调,数据库平台化不仅是漂亮的界面,开发者体验应成为核心目标。作者引用乔布斯的话,认为好工具饱含设计者的巧思和品味。他提出三个设计原则:API First,确保管控平台功能均可通过API实现;使用统一认证体系,打通管控与数据库内部认证;构建稳定的小工具,通过统一CLI入口调用。这些原则旨在提升数据库的易用性和效率。

❓

Q&A

在GenAI时代,数据库选择向量数据库还是向量搜索插件+SQL数据库?

文章认为答案很明确:向量搜索应成为现有数据库的功能,而非独立数据库。关系型数据库天然支持插入和更新,配合向量索引可实现实时更新的RAG,并消除数据孤岛,通过JOIN关联其他数据提升灵活性。

GenAI应用对数据库的弹性和实时交互有哪些要求?

GenAI应用要求知识和数据实时更新,数据库需具备弹性扩展和实时交互能力。弹性方面,需高效利用计算资源,云提供弹性成为关键;实时交互方面,需确保数据流实时流动,毫秒级响应,并实现OLTP和OLAP无缝同步。

为什么云数据库的可观测性中成本分析变得重要?

在云上,一切Workload都会成为客户账单的一部分,用户需要理解账单并优化成本。成本分析可帮助发现潜在问题,如调整实例规格以降低成本。账单可解释性越好,用户体验越好,但需平衡计费粒度和性能。

现代数据库设计如何提升开发者体验?

文章提出三个设计原则:API First,提供稳定前向兼容的API,管控平台基于API构建;使用统一认证体系,打通管控和数据库内部认证,便于对接云IAM;构建稳定的小工具,通过统一CLI入口调用。

GenAI如何改变数据访问方式?

GenAI使数据访问更动态灵活,从边缘发起(如Agent或GenAI直接发起),个性化数据价值提升。例如GPTs通过自定义Prompt和RESTful API灵活调用Action,调用方式和参数不可预测,数据库需支持这种动态访问。

2024年数据库技术有哪些主要发展趋势?

文章预测四大趋势:向量搜索成为数据库标配而非独立数据库;弹性和实时交互成为基石;成本分析成为可观测性独立视角;开发者体验成为设计核心目标。整体上,数据和数据库技术仍处于变革期,创新不断。

🏷️

标签

➡️

继续阅读