软件工厂关灯翻车：AI事故暴增242%，代码库正在崩盘
内容提要
AI编程工具虽提升代码产出速度，但导致事故率飙升242%，代码质量下降。文章指出“关灯工厂”模式不可行，因模型擅长解题却不懂维护，基准测试无法衡量可维护性。建议将人放回流程，通过产品评审、架构设计、程序设计和纵向切片前置审查，在约束中实现2-3倍稳定提速，避免百倍加速的陷阱。
延伸解读
基准测试的盲区
文章指出，当前强化学习训练AI编程模型时，主要依据测试是否通过来打分，如SWE-bench。但测试通过并不代表代码可维护，模型可能写出丑陋、重复或类型不安全的代码，这些在基准测试中不扣分。因此，模型在真实项目中维护代码时，容易制造“屎山”，导致后续修改困难。
关灯工厂的代价
作者以自身经历为例，说明全盘关灯（完全依赖AI）导致代码质量崩溃，最终不得不手动重写。Faros AI报告显示，AI工具使用后事故率飙升242%，PR审查质量下降，未审查合并的PR增多。这表明，完全自动化开发流程在现阶段不可行，人类监督不可或缺。
前置审查的价值
文章建议通过产品评审、架构设计、程序设计和纵向切片四个阶段，将审查压力前置。这能显著减少AI生成PR的返工率，将审查时间从三小时压缩到二十分钟。作者强调，与其追求百倍加速，不如在约束下实现2-3倍的稳定提速，避免代码库崩盘。
Q&A
AI编程工具导致事故率上升了多少？
根据Faros AI的报告，使用AI编程工具后，每个PR对应的事故数暴增242.7%，月度事故总数涨了57.9%，每个开发者的bug量涨了54%。
为什么AI模型擅长解题但不擅长维护代码？
因为AI模型在训练时通过强化学习优化的是测试通过率，只要代码能通过测试就得满分，不会因为代码可维护性差而扣分。而可维护性（如避免霰弹式修改、保持类型安全）需要长期视角，当前基准测试无法衡量，导致模型倾向于生成短期可行但长期混乱的代码。
什么是“关灯工厂”？为什么它注定失败？
“关灯工厂”是指完全由AI代理编写、审查、合并代码，人类不参与任何环节的开发模式。它失败的原因在于AI模型缺乏维护代码的能力，无法保证代码质量，导致事故率飙升，且一旦出现问题，人类难以介入修复，最终代码库崩溃。
如何避免AI生成烂代码？有哪些具体步骤？
避免AI生成烂代码的关键是将人放回流程，通过四个前置阶段：产品评审（明确问题和成功标准）、系统架构（确定API契约和数据表结构）、程序设计（写伪代码和类型签名）、纵向切片（先做可运行的垂直切片）。这些步骤能提前对齐需求，减少AI乱发挥，将审查时间从3小时压缩到20分钟。
SWE-bench等基准测试为什么不能衡量代码可维护性？
因为SWE-bench等基准测试只检查测试是否通过（PASS_TO_PASS和FAIL_TO_PASS），不评估代码的可维护性，如代码重复、类型安全、结构清晰等。模型只要写出能通过测试的代码就得满分，即使代码很烂。可维护性问题往往在数月后才显现，无法在测试中反馈。
AI编程工具能带来多少倍的提速？
文章建议不要追求百倍加速，通过拥抱约束、优化流程，可以实现2到3倍的稳定提速。如果盲目追求百倍加速，可能导致代码质量崩溃，最终反而更慢。
