Databricks加入开放安全AI联盟，推动AI安全与防护
内容提要
Databricks作为Open Secure AI Alliance创始成员，倡导开放AI安全，推出Omnigent开源元框架、DASF 3.0风险目录、DAGF治理框架及BlackIce红队工具包，并依托Lakewatch安全湖仓和Unity Catalog开放治理，强化代理型AI防护与网络防御，推动社区协作。
延伸解读
开放安全联盟的核心理念
Databricks加入开放安全AI联盟，强调AI安全研究应开放共享，工具应基于开放系统构建。联盟成员包括NVIDIA等75+组织，覆盖芯片、模型、安全和基础设施。这一理念旨在让更广泛的防御者社区能够检查、测试和强化AI代理的每个组件，从而建立基于可见性和证据的信任。
代理型AI安全的关键：开放执行栈
文章指出，AI代理不仅是模型，而是由模型、框架和护栏组成的复杂系统。安全需要开放的执行栈，包括运行时、护栏、编排框架、风险定义和治理层。Databricks的Omnigent元框架支持多种框架和模型，提供策略执行和沙箱隔离，而DASF 3.0则列出了97项技术风险和73项缓解控制，为代理型AI威胁提供蓝图。
开源工具降低红队测试门槛
BlackIce是Databricks开源的容器化红队工具包，集成了14种AI安全工具，映射到MITRE ATLAS和DASF。它使安全团队无需手动配置每个工具即可测试提示注入、数据泄露和供应链攻击。已有超过6000次下载，帮助那些原本无法自行组装这些工具的团队进行对抗性测试。
开放治理与数据湖仓的整合
Databricks将Unity Catalog开源并捐赠给Linux基金会，确保治理层可审计和扩展。Lakewatch作为开放安全湖仓，支持在开放数据格式上运行AI代理进行威胁检测和响应，防止供应商锁定。这种开放方法使防御者能够拥有自己的数据、工具和情报，与联盟的使命一致。
Q&A
Databricks为什么加入开放安全AI联盟？
Databricks加入开放安全AI联盟是因为该联盟倡导开放AI安全，认为AI安全研究应共享，工具应基于开放系统构建。Databricks作为创始成员，希望推动开放框架来保护AI系统，并利用开放数据（如Lakewatch）加强网络防御，避免关键安全情报被少数封闭系统垄断。
Omnigent是什么？它有哪些主要功能？
Omnigent是Databricks推出的开源元框架（Apache 2.0），允许开发者选择不同的模型和工具，支持13种以上的开源和闭源工具，并强制执行策略、支出上限和沙箱隔离。它通过上下文策略跟踪会话状态，阻止慢速攻击，并实施基于意图的授权，以治理代理行为。
DASF 3.0是什么？它如何帮助防御者？
DASF 3.0是Databricks AI安全框架的3.0版本，它列出了97项技术安全风险，涵盖13个组件，并映射到73项缓解控制措施，同时参考了MITRE ATLAS、OWASP、NIST等标准。它专门覆盖了代理型AI威胁（如记忆中毒、目标操纵、不安全的MCP连接），为防御者提供了从风险识别到缓解的开放、厂商中立的蓝图。
DAGF框架的五个支柱是什么？
文章提到DAGF（Databricks AI治理框架）定义了五个支柱，用于构建负责任且有韧性的AI项目，但具体五个支柱的名称未在文中列出。它涵盖AI治理、伦理合规、风险管理、运营监督等领域，帮助企业管理AI项目，确保透明、安全、有效，并促进人员、流程和技术的协作。
BlackIce工具包是什么？它有什么作用？
BlackIce是Databricks开源的容器化红队工具包，它捆绑了14种常用的AI安全工具，并映射到MITRE ATLAS和DASF，使安全团队能够测试系统对提示注入、数据泄露和供应链攻击的防御能力，而无需手动配置每个工具。它降低了AI红队的门槛，已有超过6000次下载。
Lakewatch和Unity Catalog在AI安全中扮演什么角色？
Lakewatch是Databricks的开放安全湖仓，它统一了安全、IT和业务数据，使安全团队能够以PB级规模运行检测、调查和响应，并支持AI代理主动分类警报、进行威胁狩猎和优化检测逻辑。Unity Catalog是开放治理层，决定哪个代理可以访问哪些数据、模型或工具，并强制执行访问控制。它已开源并捐赠给Linux基金会，确保安全数据可移植，避免供应商锁定。
开放安全AI联盟的使命是什么？
开放安全AI联盟的使命是开放共享AI安全与安全研究，并基于开放系统构建工具。它倡导开放模型、工具和护栏，使防御者能够检查、审计和治理整个AI堆栈中的代理行为，从而加强企业、软件和关键系统的安全性。
