内容提要
Corma公司开发防御性网络安全基础模型,通过强化学习在模拟企业网络中训练,以应对AI攻击能力的提升。该模型已部署于财富500强企业,能高效执行安全任务。文章强调防御需专门训练,Corma的垂直整合和主权AI方法在成本、速度和定制上具优势,获红杉资本领投。
延伸解读
防御差距的实证
文章通过红蓝队模拟揭示了防御差距:当攻击者植入后门时,即使防御者是同一模型的副本,仍有78%的概率无法发现。这表明在模型能力相同的情况下,攻击方天然占优。这一数据凸显了专门训练防御模型的必要性,也解释了为何通用大模型难以胜任防御任务。
强化学习与垂直整合的优势
Corma采用强化学习在模拟企业网络中训练,利用网络安全作为零和博弈的特性,通过自对弈提升防御能力。其垂直整合和主权AI方法带来成本、速度和定制化优势,例如降低推理成本、避免模型使用限制,并能快速应对新威胁。这些因素在防御场景中至关重要。
实际部署案例
文章列举了Corma在财富500强企业的部署案例:一位CISO通过智能手表收到攻击警报,一键确认后代理即阻止攻击;另一个案例中,Corma在入职一小时内发现并修复了被忽视52天的攻击。这些案例展示了防御代理的实用性和效率,但需注意案例可能经过筛选,不代表普遍性能。
Q&A
Corma公司主要做什么?
Corma公司开发防御性网络安全基础模型,通过强化学习在模拟企业网络中训练,以应对AI攻击能力的提升。
为什么防御性网络安全比攻击性网络安全更难?
因为防御需要开放式的推理,在大量正常活动中持续发现异常,而攻击是目标导向的推理。此外,防御所需的数据(如日志、事件、追踪和遥测)与LLM通常训练的大量文本不同,在预训练中很少出现,因此通用模型难以胜任。
Corma的模型是如何训练的?
Corma的模型通过大规模强化学习在模拟真实企业网络的网络安全环境中训练,这些环境包含各种工具、遥测和噪音,从而产生前沿的防御能力。
Corma的模型在实际应用中有什么成效?
Corma的模型已部署于财富500强企业,能高效执行安全任务。例如,一个Corma代理在客户网络中发现并修复了一个被忽视52天的活跃攻击活动。
Corma的垂直整合和主权AI方法有哪些优势?
优势包括:成本更低(始终在线推理成本可控)、拥有模型权重(不受闭源模型实验室对网络安全使用限制)、专业化和推理速度快(能快速应对新威胁)。
Corma获得了哪家机构的投资?
Corma获得了红杉资本领投的种子轮投资。