内容提要
FILE类型是Databricks新推出的列类型,可将非结构化数据(如视频、图像)作为原生列存储在表中,实现与结构化数据统一治理和查询。它通过轻量引用避免性能损耗,支持行级安全控制和生命周期同步,使数据AI就绪,适用于自动驾驶等场景,现处于Beta阶段。
延伸解读
轻量引用设计
FILE列存储的是轻量引用,而非原始二进制数据,因此查询大文件(如视频)时不会造成性能损耗。引擎仅在需要时拉取实际字节,避免了将大对象反复载入内存的开销。这种设计让处理GB级视频数据变得高效,同时保持查询性能。
治理与安全
FILE类型集成Unity Catalog,支持行级、列级和基于属性的访问控制(ABAC),解决了传统URL引用权限管理分散的问题。同时,FILE的生命周期与行同步,删除行时数据引用一并删除,避免孤立文件,简化了GDPR等合规要求。
开放生态与适用场景
FILE类型正在与社区合作,直接支持Parquet和Delta Lake,确保多模态数据的开放性和可移植性,避免供应商锁定。当前处于Beta阶段,适用于自动驾驶等需要处理视频、图像等非结构化数据的场景,未来路线图将扩展更多功能。
Q&A
什么是Databricks的FILE类型?
FILE类型是Databricks新推出的一种列类型,可以将非结构化数据(如文档、图片、视频)作为原生列存储在表中,与结构化数据统一治理和查询。
FILE类型如何避免查询性能损耗?
FILE列存储的是轻量引用,而不是原始二进制数据。引擎只在需要时才拉取实际字节,避免了每次操作都将大文件拖入内存,从而保证了查询性能。
FILE类型如何实现数据治理和安全控制?
FILE类型集成在Unity Catalog中,支持行级和列级访问控制以及基于属性的访问控制(ABAC),确保只有合适的人能访问数据。
FILE类型如何解决数据生命周期同步问题?
FILE类型将文件的生命周期与表中的行绑定,删除行时,对应的文件也会同步删除,避免了孤立文件和合规风险。
FILE类型适用于哪些场景?
FILE类型适用于需要处理非结构化数据的场景,例如自动驾驶公司分析行车记录视频,以减少随机停车问题。
FILE类型目前处于什么阶段?
FILE类型目前处于Beta阶段,用户可以通过Beta文档试用并提供反馈。