引入FILE类型:面向多模态数据的原生列类型

引入FILE类型:面向多模态数据的原生列类型

💡 原文英文,约900词,阅读约需3分钟。
📝

内容提要

FILE类型是Databricks新推出的列类型,可将非结构化数据(如视频、图像)作为原生列存储在表中,实现与结构化数据统一治理和查询。它通过轻量引用避免性能损耗,支持行级安全控制和生命周期同步,使数据AI就绪,适用于自动驾驶等场景,现处于Beta阶段。

🔎

延伸解读

轻量引用设计

FILE列存储的是轻量引用,而非原始二进制数据,因此查询大文件(如视频)时不会造成性能损耗。引擎仅在需要时拉取实际字节,避免了将大对象反复载入内存的开销。这种设计让处理GB级视频数据变得高效,同时保持查询性能。

治理与安全

FILE类型集成Unity Catalog,支持行级、列级和基于属性的访问控制(ABAC),解决了传统URL引用权限管理分散的问题。同时,FILE的生命周期与行同步,删除行时数据引用一并删除,避免孤立文件,简化了GDPR等合规要求。

开放生态与适用场景

FILE类型正在与社区合作,直接支持Parquet和Delta Lake,确保多模态数据的开放性和可移植性,避免供应商锁定。当前处于Beta阶段,适用于自动驾驶等需要处理视频、图像等非结构化数据的场景,未来路线图将扩展更多功能。

Q&A

什么是Databricks的FILE类型?

FILE类型是Databricks新推出的一种列类型,可以将非结构化数据(如文档、图片、视频)作为原生列存储在表中,与结构化数据统一治理和查询。

FILE类型如何避免查询性能损耗?

FILE列存储的是轻量引用,而不是原始二进制数据。引擎只在需要时才拉取实际字节,避免了每次操作都将大文件拖入内存,从而保证了查询性能。

FILE类型如何实现数据治理和安全控制?

FILE类型集成在Unity Catalog中,支持行级和列级访问控制以及基于属性的访问控制(ABAC),确保只有合适的人能访问数据。

FILE类型如何解决数据生命周期同步问题?

FILE类型将文件的生命周期与表中的行绑定,删除行时,对应的文件也会同步删除,避免了孤立文件和合规风险。

FILE类型适用于哪些场景?

FILE类型适用于需要处理非结构化数据的场景,例如自动驾驶公司分析行车记录视频,以减少随机停车问题。

FILE类型目前处于什么阶段?

FILE类型目前处于Beta阶段,用户可以通过Beta文档试用并提供反馈。

🏷️

标签

➡️

继续阅读