内容提要
公司宣布将前沿模型Claude Mythos 5集成至网络安全工具,供防御者扫描漏洞并建议补丁,同时推出3500万美元基金支持开源软件安全,并扩大网络验证计划。此举旨在安全扩展高级防御能力,防止模型被恶意利用,帮助组织应对AI时代网络安全挑战。
延伸解读
防御性集成降低滥用风险
文章指出,直接访问模型时恶意行为风险最高,而通过工具集成仅输出特定结果(如补丁或警报)可显著降低风险。因此,将Claude Mythos 5集成到现有安全工具中,用户无法直接提示模型生成漏洞利用代码,这为安全扩展高级防御能力提供了可行路径。
开源安全资金支持方向明确
新设立的Defender Advantage Fund提供3500万美元信用额度,重点资助三类工作:修补广泛使用项目中的漏洞、自动化扫描和修补流程、以及探索能抵御整类攻击的新安全方法。这反映了对开源项目维护资源不足的关切,并试图通过资金支持增强其安全性。
网络验证计划逐步扩展
Cyber Verification Program将扩大对Opus和Sonnet模型的双重用途能力访问,并后续提供Mythos级访问。该计划为经过审查的防御者减少安全限制,以减少合法网络安全工作中的中断。这体现了在控制风险的同时,逐步向更多防御者开放高级模型能力的策略。
Q&A
Claude Mythos 5 在网络安全方面有哪些新的集成和应用?
Claude Mythos 5 现已集成到 Claude Security 中,可供企业客户扫描代码库漏洞并建议补丁。同时,公司正与合作伙伴合作,将 Mythos 5 集成到他们现有的网络安全工具中,使防御者能够通过熟悉的界面获得 Mythos 级别的防御能力。
Defender Advantage Fund (0xDAF) 是什么?它的目的是什么?
Defender Advantage Fund (0xDAF) 是一项 3500 万美元的基金,以 Claude 积分的形式提供给致力于保护开源软件安全的组织。其目的是支持开源项目漏洞修补、自动化扫描和修补流程,以及探索更强大的安全方法,以增强开源软件的安全性。
Claude Security 如何使用 Claude Mythos 5 进行漏洞扫描?
Claude Security 现在使用 Claude Mythos 5 扫描代码库,识别漏洞并生成包含 CWE 类别、置信度、严重性评级和修复建议的详细报告。用户可以在 claude.ai/security 选择仓库进行扫描,然后通过 Claude Code 实施修复,但所有补丁必须经过人工审查和批准。
Cyber Verification Program 的扩展计划是什么?
Cyber Verification Program 将扩大范围,为经过验证的防御者提供对 Opus 和 Sonnet 模型更广泛的双重用途能力访问,并计划在未来提供 Mythos 级别的访问。该计划旨在减少对合法网络安全工作的干扰,同时保持安全防护。
为什么将 Claude Mythos 5 集成到现有工具中而不是直接开放模型访问?
直接访问模型存在被恶意利用的风险,而通过集成到现有工具中,用户只能获得特定输出(如补丁或安全警报),无法直接提示模型进行有害操作。这种方式在提供防御能力的同时,降低了模型被滥用的风险。
Claude Security 的扫描功能对 Claude Enterprise 客户如何计费?
Claude Security 的扫描功能目前处于公开测试阶段,对 Claude Enterprise 客户开放。使用 Mythos 5 进行扫描将按标准 token 使用量计费,包含在现有计划中,无需额外付费。