领英如何利用AI每周评审4万个拉取请求

领英如何利用AI每周评审4万个拉取请求

💡 原文英文,约3300词,阅读约需12分钟。
📝

内容提要

领英因AI编码代理导致代码评审成为瓶颈,自研多代理AI评审系统,每周覆盖超4万PR,多数评论早于人工评审。系统采用编排器-子代理模式:多个模型独立评审同一PR,合并重复发现,再由另一模型验证单一发现,并按公司、仓库、PR三层规则注入上下文。上线前用LLM评审和黄金数据集评估,生产中每日跟踪评论采纳率(达63.9%)。下一步将推出风险热力图,优先标注高风险代码区域。

🔎

延伸解读

从“写代码”到“审代码”的瓶颈转移

文章指出,AI编码代理让写代码的速度大幅提升,但人工评审的时间有限,导致评审成为新的瓶颈。领英每周有数万个PR,自研AI评审系统覆盖超4万个,且多数评论早于人工评审。这提示团队:当编码自动化后,需要同步投资评审自动化,否则整体交付速度仍受限于人工评审环节。

多代理架构如何减少幻觉与知识盲区

领英采用编排器-子代理模式:多个模型独立评审同一PR,合并重复发现,再由另一模型验证单一发现。这种设计让不同模型覆盖彼此的知识盲区,并通过交叉验证降低幻觉风险。文章提到,单一模型即使搭配规则文件仍会产生大量幻觉,而多代理的独立评审和验证机制能提升评论的可靠性。

分层规则注入比单一规则文件更灵活

领英没有采用简单的规则文件注入,而是按公司、仓库、PR三层设计规则,每层有独立范围和负责人,由专门子代理执行评审。文章解释,单一文件无法同时容纳公司通用规则、团队约定和特定变更的检查项。这种分层设计让AI评审更贴合代码库的实际约定,减少泛泛而谈的评论。

评估体系:发布前对比与生产端采纳率

领英在发布前用LLM评审和黄金数据集评估变更,生产中每日跟踪评论采纳率,目前达63.9%。文章强调,采纳率以代码是否实际修改为准,而非表情反应。团队还按类别分析采纳率,并据此决定禁用哪些规则或调整提示。这显示AI评审系统需要持续评估和反馈闭环,而非一次上线就结束。

❓

Q&A

领英为什么要自研AI代码评审系统?

领英有超过1万个活跃代码仓库,每周有数万个PR。随着AI编码代理加速代码编写,评审成为瓶颈。领英最初试用供应商的评审工具,但评论嘈杂且通用,工程师失去信任并要求退出。因此领英决定自研AI评审系统,以在人工评审前提供高信号、贴合代码库的评论。

领英的AI评审系统是如何工作的?

系统采用编排器-子代理模式。编排器获取diff和代码库上下文,分发给多个子代理独立评审同一PR,每个子代理可使用不同模型。然后编排器合并重复发现,按置信度排序,并将仅由一个子代理提出的发现交给另一模型验证。最后过滤掉低价值评论后发布。系统还按公司、仓库、PR三层注入规则。

领英如何评估AI评审系统的效果?

评估分发布前和生产中两阶段。发布前用LLM作为裁判,按六项加权标准对比生产版和候选版的评审,并用黄金数据集(人工标注正确评论)计算精确率和召回率。生产中跟踪评论采纳率,即代码是否因评论而改变。领英的采纳率达63.9%,并发bug和死代码类评论采纳率100%,逻辑错误80%。团队每日运行采纳检查并生成趋势报告,用于调整规则和提示。

AI评审系统如何处理多个模型的评审结果?

系统分三步处理:首先多个子代理独立评审,互不见彼此发现,以保证独立性;然后编排器合并重复发现,先通过确定性检查标记行范围重叠的候选,再用LLM语义判断是否同一问题,合并后提升置信度;最后对仅一个子代理提出的发现,交由另一模型验证,验证通过的按重要性评级,矛盾则降低置信度,低分发现被过滤。

领英的AI评审系统上线后效果如何?

系统每周覆盖超过4万个PR,大多数评论在首位人工评审者打开PR之前发布。工程师对AI评论的采纳率为63.9%,其中并发bug和死代码类评论采纳率100%,逻辑错误类80%。这表明工程师会依据大部分AI评论采取行动。

领英AI评审系统下一步计划是什么?

下一步将推出风险热力图,对PR diff的每个区域按预测风险评分,让工程师优先评审风险最高的部分。此外,领英认为评审之后的瓶颈是对软件整体质量的信心,计划将AI工具扩展到部署、监控和事故处理等领域。

🏷️

标签

➡️

继续阅读