freeCodeCamp.org ·

AI评估工程：从零构建生产级LLM评估平台 [完整手册]

💡 原文英文，约13300词，阅读约需49分钟。

📝

内容提要

本文介绍AI评估工程，强调仅靠演示和直觉开发AI系统不可靠。核心是采用评估驱动开发，通过三层架构（离线数据集评估、CI/CD门禁、生产监控）系统化评估RAG和智能体系统。重点包括构建黄金数据集、使用六项RAG指标、校准LLM评判器，并持续从生产故障中学习，以保障系统质量。

🔎

延伸解读

评估覆盖的盲区

文章指出，多数团队只评估生成层，而忽略了检索、推理和安全等失败面。这导致系统在仪表盘上看似健康，却可能在多跳问题等场景下大规模出错。评估覆盖原则提醒我们，要系统性地识别并覆盖所有关键失败面，而非仅关注最终答案的质量。

黄金数据集的价值

黄金数据集被视为评估工程中最有价值的资产，其重要性超过指标本身。它必须具有代表性、有标签、有版本控制，并持续从生产故障中获取案例。一个高质量的数据集能捕捉更多真实失败，而指标只是诊断工具。团队应投入更多精力在数据集的构建和维护上。

LLM评判器的校准

LLM评判器并非天然可靠，需要通过人工标注样本计算Spearman秩相关系数进行校准，阈值高于0.85才达到生产就绪。校准能减少长度、措辞、位置等系统性偏差，确保评判结果的一致性和可信度。这提醒我们，依赖LLM评判时需验证其可靠性。

生产监控的闭环

生产监控不仅是检测问题，更是持续改进的闭环。通过从实时流量中采样、检测分布漂移，并将低质量轨迹自动转化为新的评估案例，系统能不断适应真实世界的输入。这种机制让评估覆盖范围随生产故障自动扩展，是保障长期质量的关键。

❓

Q&A

什么是评估驱动开发（Eval-Driven Development）？

评估驱动开发是一种AI系统开发方法论，要求在构建系统之前先定义“正确”的含义，并将其编码为评估指标。系统只有在指标一致通过时才视为生产就绪，而不是仅凭演示效果。它借鉴了测试驱动开发的思想，强调用评估指标来指导开发，确保系统质量。

AI系统评估中，为什么不能只评估生成层？

因为RAG应用至少有四个失败面：检索失败、生成失败、推理失败和安全失败。只评估生成层（如答案是否听起来合理）会忽略检索失败，导致系统在仪表盘上看似健康，但实际可能因检索不完整而产生错误答案。例如，上下文召回率低但忠实度高时，系统可能基于不完整上下文生成看似合理的错误答案。

三层评估架构是哪三层？各自的作用是什么？

三层评估架构包括：Tier 1离线数据集评估，用于在发布前检测回归和系统性问题；Tier 2 CI/CD门禁，在每次拉取请求时自动评估，阻止不合格的部署；Tier 3在线生产监控，持续采样实时流量，检测分布漂移和质量下降。三层必须全部运行，缺一不可，因为每层捕获不同的失败模式。

黄金数据集为什么比指标更重要？它需要满足哪些属性？

黄金数据集比指标更重要，因为数据集定义了评估覆盖的问题空间，而指标只是在该空间内诊断问题的精度。一个平庸的指标配合优秀的数据集能捕获更多真实失败。黄金数据集必须具有代表性（反映真实用户输入分布）、有标签（每个案例有专家认可的地面真值）和版本控制（随生产故障持续演进）。

RAG评估的六个核心指标是什么？分别捕获哪些失败模式？

六个核心指标是：忠实度（Faithfulness）捕获生成幻觉，上下文召回（Context Recall）捕获检索不完整，上下文精度（Context Precision）捕获检索噪声，答案相关性（Answer Relevancy）捕获答非所问，幻觉（Hallucination）捕获事实错误，接地性（Groundedness）捕获超出上下文的推断。它们分别评估检索和生成两个失败面。

如何校准LLM评判器？校准的标准是什么？

校准LLM评判器需要收集50个人工标注样本，计算评判器评分与人工评分的Spearman秩相关系数，当相关系数高于0.85时才达到生产就绪。校准可以减少长度、措辞、位置等系统性偏差，确保评判器产生一致可信的分数。

生产监控如何实现持续改进？

生产监控通过持续从实时流量中采样，检测分布漂移，并将低质量轨迹自动转化为新的评估案例。具体流程是：生产收割器（ProductionHarvester）每天从S3中提取用户反馈差、评分低或延迟高的轨迹，生成候选案例，由人工审核后加入黄金数据集，形成持续改进的闭环。

🏷️