一分钟读论文：《Proof-or-Stop：自主编码Agent的可验证证据门控机制》
内容提要
该论文提出一种证据门控机制，将自主编码Agent的DONE声明转化为可验证证据，要求状态转换依赖新鲜、绑定的机械验证证据。实验显示，该机制将虚假通过案例从31例降至2例，错误传播概率降低两个数量级，并在实际应用中解决94.8%的问题，显著提升系统可靠性。
延伸解读
信任危机：Agent的“声明”为何不可信
自主编码Agent在完成任务时，常声称“已审查”“已测试”或“可合并”，但这些声明缺乏可验证证据，导致下游环节无法确认其真实性。传统人工审核或静态检查难以覆盖复杂变更，也无法防止证据伪造。这种信任缺失限制了Agent在关键生产环境中的部署，尤其在多Agent并行协作时，虚假声明会级联放大错误传播，使问题排查更加困难。
证据门控的三大设计原则
论文提出的机制基于三个核心原则：最小权限要求只有经过验证的证据才能触发状态转换，未经核实的DONE声明被拒绝；状态绑定将证据与受追踪的源状态快照关联，确保证据反映特定时刻的真实状态；机械验证通过本地密钥签名生成收据包，对18类常见篡改手段实现零误报检测。这些原则共同构建了独立于Agent架构的控制层，确保安全性与模型无关。
实验数据：可靠性提升两个数量级
通过9,240个单元格的消融实验，启用门控循环后，可见通过但实际失败的案例从31例降至2例（分母均为1,800次试验），95%置信区间为[0.8, 2.5]。这表明门控机制显著抑制了虚假通过的级联放大效应，将错误传播概率降低了两个数量级以上。自应用验证中，在565个真实故事和1,007项审查发现里，成功解决了94.8%的问题，证明其在实际工程环境中的有效性。
Q&A
论文《Proof-or-Stop》提出的证据门控机制主要解决什么问题？
该机制主要解决自主编码Agent在声明完成代码审查、测试通过或准备合并等状态时缺乏可验证证据的问题，防止虚假声明导致下游环节无法确认可靠性，并减少错误传播风险。
证据门控机制的三个核心设计原则是什么？
三个核心设计原则是：最小权限（只有经过验证的证据才能触发状态转换）、状态绑定（证据与受追踪的源状态快照关联）、机械验证（通过本地密钥签名生成收据包，对18类常见篡改手段实现零误报检测）。
证据门控机制如何确保证据的新鲜性和真实性？
通过状态绑定原则，将证据与受追踪的源状态快照关联，确保证据反映特定时刻的真实系统状态，避免过时或篡改数据；同时机械验证通过本地密钥签名生成收据包，检测篡改。
论文中的消融实验结果如何？
在9,240个单元格的消融实验中，启用门控循环后，可见通过但实际失败的案例从31例降至2例（分母均为1,800次试验），95%置信区间为[0.8, 2.5]，错误传播概率降低两个数量级以上。
证据门控机制在实际应用中的表现如何？
在自应用验证中，针对565个真实故事和1,007项审查发现，证据门控机制成功解决了94.8%的问题，表明该方法在实际工程环境中有效。
证据门控机制是否依赖于特定的大语言模型？
不依赖。该机制采用模型无关的设计哲学，作为独立于Agent架构的控制层运行，无论底层使用何种大语言模型或推理框架，证据门控逻辑保持一致，具有广泛适用性。
