行业领袖联合成立开放安全AI联盟，共筑AI安全与信任
内容提要
开放安全AI联盟由NVIDIA等企业成立，旨在通过开源工具促进AI安全与信任。联盟强调开源模型和工具对网络安全至关重要，能增强防御透明度、避免单点故障。NVIDIA贡献了NOOA等开源项目，其他成员也提供安全技术。联盟呼吁政策制定者将开放AI视为防御资产，投资共享防御基础设施，以构建开放、安全的AI未来。
延伸解读
开源与闭源并非对立
文章明确指出，世界需要同时存在闭源和开源模型。对于网络安全而言，开源模型和工具至关重要，因为它们能民主化防御能力、提高透明度，并允许防御者在自有基础设施上运行和定制。闭源系统并非绝对安全，风险同样存在，因此不应简单地将开源视为更不安全。
Hugging Face事件的启示
文章提到Hugging Face安全事件，当闭源AI工具无法区分攻击者与防御者时，Hugging Face使用开源模型GLM 5.2分析超过17,000个行为并遏制入侵。这展示了在关键时刻，防御者需要能够检查、调整和运行先进AI的能力，否则响应速度将受限。
政策制定者的角色
文章呼吁政策制定者将开放AI视为防御资产而非负担，避免对开源前沿AI系统进行一刀切限制，否则会削弱防御能力并增加对少数闭源提供商的依赖。建议投资共享的开放防御基础设施，如数据集、评估框架和红队工具，以增强整体安全性。
Q&A
开放安全AI联盟是什么？由谁成立？
开放安全AI联盟是由NVIDIA等企业联合成立的，旨在通过开源工具促进AI安全与信任。创始成员包括NVIDIA、Adobe、IBM、Microsoft等众多科技公司。
为什么开放模型对网络安全至关重要？
开放模型对网络安全至关重要，因为它们民主化了防御能力，增加了防御者的透明度，支持数据保护下的网络防御，并且可以补充封闭模型，提供可定制、本地化的控制。此外，开源支持大规模分布式、社区驱动的防御，没有单点故障。
Hugging Face安全事件说明了什么？
Hugging Face安全事件表明，当封闭AI工具无法区分攻击者和防御者，阻碍关键取证分析时，防御者需要开放、前沿的代理系统进行自卫。Hugging Face使用开放权重的GLM 5.2模型分析超过17,000个行动，成功遏制了入侵，证明了开放模型在关键时刻的重要性。
NVIDIA为开放安全AI联盟贡献了什么？
NVIDIA贡献了开放模型、模型权重、数据以及新的代理框架研究，并开源了NVIDIA Labs Object-Oriented Agent (NOOA)项目，旨在使高级AI安全能力更易于用于代理框架，提高代理行为的可测试性、可追溯性、可审计性和可治理性。
开放安全AI联盟的成员提供了哪些安全技术？
联盟成员提供了多种安全技术，例如HPE的SPIFFE/SPIRE提供零信任身份框架，Hugging Face的Safetensors提供安全的模型权重存储格式，IBM和Red Hat的Lightwell提供数字签名补丁，Microsoft的MDASH多模型代理扫描框架，以及SpaceXAI开源的Grok Build编码代理和计划开源Grok模型权重。
联盟对政策制定者有什么建议？
联盟呼吁政策制定者将开放模型、框架和安全工具视为防御资产而非负债，避免对开放前沿AI系统进行一刀切限制，并投资于共享的开放AI防御基础设施，如数据集、评估框架、攻击模拟器和红队工具。
开放模型和封闭模型在网络安全中如何协同？
开放模型和封闭模型在网络安全中应协同工作，因为防御者需要两者结合，以便根据任务选择最合适的系统。开放模型提供透明性、适应性和主权控制，而封闭模型可能提供其他优势。两者共同使用可以增强整体防御能力。
