英伟达、Palantir、Hugging Face等34家公司加入联盟，共同抵御开源权重AI面临的网络威胁
内容提要
33家科技公司成立开放安全AI联盟，旨在通过开源工具快速识别和修补漏洞，保障AI基础设施安全。联盟成员包括英伟达、微软等，但OpenAI和Anthropic缺席。专家认为，监管需转向基础设施层，关注模型来源和部署身份，而非仅模型本身。联盟强调开放模型对网络安全和创新的重要性，但需全球化和包容性发展。
延伸解读
联盟的监管盲区
专家指出，当前AI监管主要针对少数封闭实验室，而开放权重模型（如Mistral、DeepSeek）落入监管盲区：权重一旦发布，无法强制下游安全义务。联盟的成立承认了实际安全工作需转向基础设施层，包括补丁周期、来源追踪和部署身份，因为“无法传唤下载的权重文件”。
开放模型的安全价值
英伟达高管强调，开放权重模型对美国AI领导力和网络安全至关重要。开放模型和工具能扩大防御能力、提高透明度，并与封闭模型互补，提供可定制的本地化控制。联盟成员认为，开放模型将更多AI用户转变为AI构建者，促进创新，避免进步集中在少数组织或地区。
联盟的局限与挑战
OpenUK CEO指出，联盟是美国对自身挑战的回应，需采取更全球化和地理包容的方法，并吸纳开源生态中的个人和创新者。此外，联盟成员中缺少OpenAI和Anthropic，反映了封闭与开放模型的竞争。专家预测，联盟可能像TPM一样，使可信硬件成为受监管工作负载的采购要求。
Q&A
开放安全AI联盟是什么？由哪些公司组成？
开放安全AI联盟（Open Secure AI Alliance）是由33家科技公司于周一宣布成立的新组织，旨在通过开发工具和技术来快速识别和修补漏洞，以保障AI基础设施的安全。成员包括英伟达、Adobe、思科、Cloudflare、Databricks、Hugging Face、IBM、微软、Palantir、Salesforce等，但OpenAI和Anthropic未加入。
为什么OpenAI和Anthropic没有加入开放安全AI联盟？
OpenAI和Anthropic是封闭的专有AI实验室，它们没有加入联盟，因为开放权重模型实际上是它们的竞争对手。它们的缺席被认为是可以理解的。
英伟达对开放权重模型在网络安全中的作用持什么观点？
英伟达企业平台副总裁Justin Boitano表示，开放权重模型对美国AI领导力和网络安全至关重要。他认为，开放模型和开放工具能扩大防御能力，提高透明度，并与封闭模型互补，提供可定制的本地化控制。他还强调，开放模型应被视为防御资产，以促进透明度和独立评估。
专家认为当前AI安全监管存在哪些问题？
专家指出，当前AI安全监管主要聚焦于少数封闭实验室的模型级控制，而开放权重模型（如Mistral、DeepSeek）落入监管盲区。监管机构如欧盟AI办公室、NIST和英国AISI几乎只关注前沿封闭模型，忽视了开放权重模型的下游安全义务。真正的监管缺口在于基础设施层的补丁周期、来源和部署身份，而非仅模型本身。
开放安全AI联盟计划如何实现其目标？
联盟计划通过开发开源工具和技术来快速识别和修补漏洞。英伟达已贡献其开源项目NOOA（Nvidia Labs Object-Oriented Agent），该项目可在GitHub上获取，旨在使AI代理行为更易于测试、追踪、审计和治理。联盟成员将合作制定共享标准和工具，以增强AI基础设施的安全性。
开放安全AI联盟的成立对AI安全领域有何意义？
联盟的成立标志着AI安全从模型级控制转向基础设施层，强调补丁周期、来源和身份验证。它被视为一个重要的信号，表明AI安全不能由单一供应商或封闭框架解决，需要开放合作。专家预测，未来AI安全将类似于可信平台模块（TPM）的发展，成为采购要求，并可能推动全球化和包容性的发展。
