构建 AI-Ready 数据组织:从需求到交付的全流程最佳实践

构建 AI-Ready 数据组织:从需求到交付的全流程最佳实践

💡 原文中文,约8600字,阅读约需21分钟。
📝

内容提要

针对数据团队指标口径不一、需求模糊和交付效率低的问题,文章提出构建AI-Ready数据组织的四步路径:统一指标与数据资产定义;用用户故事和EARS框架结构化需求;借助Data Agent自动校验规范、生成代码并分析血缘;通过SQLFluff、Great Expectations和AWS监控将质量保障内建于开发全流程,以减少沟通返工,提升数据交付效率与可信度。

🔎

延伸解读

指标漂移的根因在概念边界,而非工具

文章把指标混乱拆成两类:不确定什么该做成指标,以及同名指标口径悄然变化。其解法不是先上工具,而是先划清字段与指标的边界——字段是原子存储单元,指标是带口径、公式、周期的业务计算结果。只有把口径写入资产目录并纳入变更审批,指标漂移才能被系统性消除。这提示读者:治理指标前,先确认团队是否在同一套分层语言下对话。

EARS 的价值在于让需求可被测试直接消费

文章用普遍型、事件驱动型、状态驱动型和异常处理型四类 EARS 模式,把“一句话需求”转成可验证规格。例如明确刷新时限、告警阈值、超 90 天自动切周粒度、数据源不可用时展示延迟横幅。其实际意义是测试工程师可直接据此写用例,开发可据此设计异常逻辑,减少验收阶段的反复返工。读者可把这四类模式当作需求评审的检查清单。

Data Agent 定位是规范预处理,不是替代开发

文章明确 Data Agent 通过状态机编排需求解析、规范校验、代码生成、血缘影响分析和路由通知五步,把中台规范从“人找人确认”变为自动预处理。它生成的是 ETL 脚本草稿和断言模板,最终仍需责任开发人工复核。这一边界很重要:AI 负责发现规范问题和降低低层次评审成本,工程判断与最终交付责任仍留在人身上。

四步路径可按模块独立落地,不必推倒重建

文章强调这套框架不预设组织规模和技术成熟度,每一步都有独立业务价值,也是下一步的前提。建议顺序是先建指标资产目录统一语言,再引入 EARS 结构化需求,最后逐步构建 Data Agent 能力。质量内建则贯穿开发交付全流程,由 SQLFluff、Great Expectations 与监控告警分层承担。读者可据此评估自身团队应从哪一步切入,而非一次性全面改造。

❓

Q&A

数据团队指标口径不一致、需求模糊,有什么系统性的解决路径?

文章提出构建 AI-Ready 数据组织的四步路径:第一步统一指标与数据资产定义,建立业务数据资产目录、模型数据资产目录和指标数据资产目录,明确每个指标的口径、公式、周期和变更历史;第二步用用户故事和 EARS 框架结构化需求,让需求在进入开发前就可验证;第三步借助 Data Agent 自动校验规范、生成代码并分析血缘;第四步通过 SQLFluff、Great Expectations 和 AWS 监控将质量保障内建于开发全流程。

指标和字段到底有什么区别?为什么数据团队总在这上面扯皮?

字段是数据模型的原子存储单元,例如 user_id、order_amount,表达方式是名称、类型、长度等;指标是基于字段的业务计算结果,例如月活跃用户数、销售额,表达方式是口径定义、计算公式和统计周期。字段属于字段层(原始存储),指标属于指标层(业务计算),应用层再基于指标做分析决策。两者在数仓分层中的位置、开发方式和复用逻辑截然不同,需求沟通中混为一谈就会导致“鸡同鸭讲”和反复返工。

EARS 框架是什么?怎么把“一句话需求”变成开发能直接用的规格?

EARS(Easy Approach to Requirements Syntax)是数据分析师将需求转化为可验证规格的框架,常用四类模式:普遍型(Ubiquitous)定义始终成立的核心规则,如注册转化率的计算公式;事件驱动型(Event-Driven)定义触发条件明确的规则,如 ETL 完成后 15 分钟内刷新、环比下跌超 20% 触发告警;状态驱动型(State-Driven)定义特定状态下的行为,如时间范围超过 90 天自动按周聚合;异常处理型(Unwanted)定义不期望情况的处理,如重复 session_id 保留最早记录、分区数据为零标记为数据缺失而非展示为 0。每条 EARS 需求都可直接转化为测试用例。

Data Agent 在数据开发流程中具体做哪些事?会替代数据开发吗?

Data Agent 通过 Amazon Step Functions 状态机编排五个动作:需求解析(读取 EARS 文档提取数据源、指标、刷新频率和异常规则)、规范校验(调用 Bedrock Knowledge Bases 中的平台规范库检查命名、权限和安全标签)、代码生成(借助 Kiro CLI 生成 AWS Glue ETL 脚本草稿并附加 Great Expectations 断言模板)、血缘影响分析(识别下游报表和指标影响范围)、路由与通知(打包结果通过 SNS 通知开发工程师人工复核)。它的定位不是替代数据开发,而是把规范传递从“人找人确认”变成“Agent 自动预处理”,减少评审中的低层次问题。

数据质量保障怎么内建到开发流程里,而不是靠上线前人工抽查?

文章给出三层工具组合:SQLFluff 在代码提交阶段(Pre-commit Hook)自动检查 SQL 风格与语法规范,在进入评审前完成基础校验;Great Expectations 作为数据质量断言框架,开发在自测阶段生成断言报告,测试工程师复用断言模板库执行回归测试,覆盖完整性、准确性与一致性;Amazon CloudWatch 加 EventBridge 负责生产环境调度监控与质量告警,分区数据量异常或指标同比突降时自动触发 SNS 通知,进入标准化运维响应流程。

中心化、去中心化、联邦制三种数据团队组织形式,哪种更适合引入 AI 能力?

中心化模式统一管理、标准化强但响应速度慢;去中心化模式业务灵活但容易形成数据孤岛;联邦制由中台提供共享平台、统一标准、权限与风险管理,各业务域负责本领域业务语义与指标定义并自主开发运营,在两者之间取得平衡。文章认为引入 AI 能力后联邦制优势进一步放大:中台可以沉淀共性的 AI 工具链和数据规范,各 Domain 专注业务语义,通过 AI Agent 桥接两者。

一个符合 AI-Ready 标准的数据项目,从需求到上线要经过哪些环节?

分两大阶段。需求与方案阶段:业务方以用户故事格式提交需求申请单,数据分析师做 EARS 需求澄清并输出含指标定义和 EARS 规格的详细需求文档,再完成数据建模方案(分层模型 ERD、物理表设计、调度依赖、上线计划),最后由业务开发、分析师、开发、测试共同评审。开发与交付阶段依次为:技术方案评审、研发自测(用 Great Expectations 生成断言报告)、代码评审(SQLFluff 规范、断言覆盖率、血缘一致性)、测试人员测试、产品验收 SAT、业务验收 UAT、上线监控(CloudWatch Dashboard 加 EventBridge 告警和运维 Runbook)。核心原则是前半段做正确的事,后半段把事情做正确。

🏷️

标签

➡️

继续阅读