内容提要
数据仓库存储结构化历史数据,数据湖存储非结构化对象数据。数据湖仓是结构化和非结构化数据的统一存储格式,Databricks收购Tabular以统一Apache Iceberg和Databricks Delta Lake格式。Snowflake也支持Iceberg Tables格式,并推出开源数据目录Polaris。数据湖仓发展趋势是存储和计算分离,云存储是最佳选择。
延伸解读
Databricks 收购 Tabular 的战略意图
Databricks 以约 10 亿美元收购 Tabular,核心目的是将 Apache Iceberg 和 Delta Lake 两大湖仓格式统一。Tabular 由 Iceberg 的创造者创立,此次收购意味着 Databricks 希望借助创始团队的力量,让两种格式逐步兼容,从而解决湖仓生态分裂的问题。Databricks 产品高级副总裁 Adam Conway 表示,目标是让用户无论选择哪种格式都不再重要。
Iceberg 与 Delta Lake 的差异与互补
尽管 Iceberg 和 Delta Lake 都基于 Apache Parquet 列式格式,且功能大体相同,但两者独立发展导致互不兼容。Delta Lake 更适合流式工作负载,而 Iceberg 构建在强大的数据目录之上,提供更多数据管理能力。Databricks 承认,客户常在不同部门分别使用两种格式,这违背了湖仓统一的初衷。收购后,Databricks 将推动两者兼容,并借助 Tabular 团队开发 Delta Lake UniForm。
Snowflake 的应对与行业趋势
在 Databricks 宣布收购的同一周,Snowflake 也宣布支持 Iceberg Tables,并推出开源数据目录 Polaris。Snowflake 允许用户将数据存储在自己的服务器上,这种“自带存储”策略被 Databricks 视为对湖仓格式的验证。同时,Google 工程副总裁 Sameet Agarwal 强调存储与计算分离的重要性,认为云存储是数据湖仓的最佳选择,能统一热、温、冷工作负载,并避免管理成本随存储量线性增长。
Q&A
什么是数据湖仓?
数据湖仓是结构化和非结构化数据的统一存储格式,支持ACID级别的事务。
Databricks收购Tabular的目的是什么?
Databricks收购Tabular是为了统一Apache Iceberg和Delta Lake格式,使两者兼容。
Delta Lake和Iceberg格式有什么区别?
Delta Lake适合流式工作负载,而Iceberg则基于强大的数据目录,提供多种数据管理功能。
Snowflake在数据湖仓方面有哪些新举措?
Snowflake支持Iceberg Tables格式,并推出开源数据目录Polaris,允许用户自带存储。
数据湖仓的未来发展趋势是什么?
数据湖仓的发展趋势是存储和计算分离,云存储被认为是最佳选择。
为什么云存储被认为是数据湖仓的最佳选择?
云存储支持不同工作负载的统一存储,并且在成本和可扩展性方面具有优势。