Anthropic如何保障其AI原生软件开发生命周期的安全
内容提要
Anthropic因AI代理使软件开发流程大幅加速，工程师每季度代码量增长8倍，Claude编写约80%的代码。为保障安全，公司采取多项策略：将安全审查左移并整合进开发阶段，利用硬访问和身份边界控制风险，结合自动化和代理审查，并在关键点引入人工监督。同时，安全代理需连接组织上下文，如知识索引，以应对压缩的规划周期，确保安全不拖慢开发速度。
延伸解读
安全审查左移：从设计文档到知识索引
Anthropic将安全审查从传统的详细架构评审阶段提前到项目设计文档阶段，并利用Claude Opus自动分析MITRE ATT&CK框架中的潜在漏洞。关键在于将审查工具连接到内部知识索引，以获取组织政策、历史决策和相关系统的上下文。这一做法不仅节省了AppSec团队大量时间，还使得低风险项目可以自动批准，从而在不增加速度障碍的情况下捕获可能遗漏的风险。
硬访问与身份边界：控制爆炸半径
面对AI代理带来的快速代码变更，Anthropic采用硬访问控制和身份边界来限制潜在安全事件的爆炸半径。这意味着即使某个代理被攻破或受到提示注入攻击，其影响范围也被限制在最小权限内。这种策略与零信任框架相结合，确保每个代理和工程师都只能访问其任务所需的最小资源，从而降低供应链和依赖投毒等风险。
自动化与人工监督的平衡
Anthropic在开发流程中结合了自动化确定性审查和代理审查，并在关键点引入人工监督。这种混合方法既保证了审查的速度，又保留了人类对最终批准的控制权。例如，在代码合并前，Claude Tag负责大部分代码的编写，但人类工程师仍负责设定意图和最终审批。这种平衡确保了安全控制不会成为开发速度的瓶颈，同时保持了必要的安全层级。
Q&A
Anthropic如何应对AI代理带来的软件开发安全挑战？
Anthropic通过将安全审查左移并整合进开发阶段、使用硬访问和身份边界控制风险、结合自动化和代理审查，以及在关键点引入人工监督等策略来保障安全。
Anthropic的工程师每季度代码量增长了多少？
Anthropic的软件工程师平均每季度交付的代码量是2021年至2025年间的8倍。
Claude在Anthropic的代码编写中扮演什么角色？
Claude从编码助手演变为主要创建者和审查者，目前约80%的合并代码由Claude编写，超过一半的代码由Claude Tag合并，人类工程师负责指导、设定意图和最终审批。
Anthropic如何将安全审查左移并整合进开发阶段？
Anthropic通过自动化项目安全审查（PSR）应用，在规划阶段分析设计文档，并连接内部知识索引以获取上下文，从而在开发早期识别风险。
Anthropic如何利用硬访问和身份边界控制风险？
Anthropic使用硬访问和身份边界来限制爆炸半径，确保代理和人类只能访问必要的资源，从而降低被攻破或注入时的潜在影响。
Anthropic如何结合自动化和代理审查？
Anthropic在生产前后结合使用确定性的自动化和代理审查，以扩大审查覆盖范围并提高效率，同时保持安全标准。
Anthropic在哪些关键点引入人工监督？
Anthropic在最高杠杆点引入人工监督，例如在代码合并和最终审批阶段，确保人类工程师拥有最终决定权。
Anthropic的安全代理如何连接组织上下文？
Anthropic的安全代理通过连接内部知识索引，获取组织政策、历史决策和相关系统的上下文，从而在压缩的规划周期中有效评估风险。
