Databricks AI Runtime 与 NVIDIA 携手，让企业数据定制开源模型更轻松
内容提要
Databricks与NVIDIA扩大合作，AI Runtime（AIR）正式可用。开发者可在无服务器NVIDIA GPU上使用NeMo、NGC容器和Nemotron工具包训练、微调并评估开源模型，无需管理GPU基础设施。AIR支持多节点分布式训练、自定义容器环境、MLflow实验追踪和Unity Catalog数据治理，并可通过Genie Code辅助调试。微调后的模型可经Databricks Model Serving部署用于实时推理，实现从企业数据到定制模型再到生产应用的完整流程。
延伸解读
从数据到部署的闭环价值
文章强调 AIR 让团队在 Databricks 平台内完成从企业数据到定制模型再到生产推理的完整流程。微调后的模型可直接通过 Model Serving 部署，用于实时推理，例如技术支持代理场景。这种闭环减少了在多个系统间迁移模型和数据的开销，也降低了治理复杂度，使企业能更快将定制模型投入实际应用。
无服务器 GPU 与分布式训练的实际意义
AIR 提供无服务器 NVIDIA GPU，开发者无需管理底层集群和网络。支持多节点分布式训练，结合 Quantum InfiniBand 和 NCCL 实现 GPU 间高速通信，Databricks 负责集群与网络管理。这意味着团队可以运行现有代码和容器，按需扩展大规模训练任务，把精力集中在模型实验和评估上，而非基础设施运维。
自定义环境与可观测性支持迭代
AIR 支持 Docker 和私有镜像仓库，允许开发者带入自定义容器环境，并可使用 NGC 容器和 Artifact Registry。环境缓存能加速工作负载启动。MLflow 追踪实验和 GPU 利用率，配合 NVIDIA 性能分析工具，帮助定位训练瓶颈。这些能力让团队在调优软件和训练代码时，能基于数据做出改进决策。
超越大语言模型的定制场景
AIR 不仅支持大语言模型微调，还提供针对 NVIDIA Kumo Anomaly 的验证微调工作流，用于时间序列异常检测，并集成 MLflow 追踪和 Unity Catalog 检查点。结合 Genie Ontology，可将异常模式与业务含义关联，为上下文感知代理提供支持。这表明 AIR 的定制能力覆盖多种模型类型，适合有特定分析需求的企业。
Q&A
Databricks AI Runtime 是什么？它和 NVIDIA 的合作带来了哪些新能力？
Databricks AI Runtime（AIR）是 Databricks 与 NVIDIA 扩大合作后正式可用的服务，它提供无服务器 NVIDIA GPU，让开发者能在 Databricks 平台上使用 NVIDIA NeMo、NGC 容器和 Nemotron 工具包来训练、微调和评估开源模型，无需管理 GPU 基础设施。
使用 AIR 需要自己管理 GPU 集群和网络吗？
不需要。AIR 提供无服务器 NVIDIA GPU，Databricks 会管理底层集群和网络，包括多节点分布式训练所需的 NVIDIA Quantum InfiniBand 和 NCCL 通信，开发者只需专注于模型实验和训练代码。
AIR 支持哪些训练和微调工具？能否使用自定义容器？
AIR 支持 NVIDIA NeMo、NeMo Automodel、NGC 容器和 Nemotron cookbooks，也支持 Docker 和私有镜像仓库，允许开发者带入自定义容器化环境。此外，还提供 PyTorch、CUDA 等标准环境，并支持分布式训练框架或自带库和训练循环。
AIR 如何帮助团队追踪实验和监控 GPU 使用情况？
AIR 集成 MLflow 来追踪训练实验和 GPU 利用率，帮助团队比较模型结果和计算性能。Unity Catalog 治理训练数据访问，原生系统表提供 CPU 和 GPU 使用可见性。开发者还可以安装 NVIDIA 性能分析工具来检查 GPU 执行和瓶颈。
微调后的模型如何部署到生产环境？
微调并评估后，团队可以通过 Databricks Model Serving 将定制模型部署用于实时推理。例如，微调后的 Nemotron 模型可以驱动一个代理，解读支持请求并生成基于公司产品和故障排除流程的响应，完成从模型定制到生产应用的闭环。
Genie Code 在 AIR 中起什么作用？
Genie Code 可以辅助开发者编写和调整训练脚本，直接在 notebook 中描述所需更改、请求帮助配置微调运行，并在出现错误时协助调试。开发者可以审查和优化建议的代码，然后在无服务器 NVIDIA GPU 上运行。
AIR 除了大语言模型，还支持其他类型的模型定制吗？
是的。AIR 支持超越 LLM 的定制，包括针对 NVIDIA Kumo Anomaly（一个用于时间序列异常检测的开源研究模型）的验证微调工作流，并带有 MLflow 追踪和 Unity Catalog 检查点。这支持构建上下文感知的代理，将时间序列中的异常模式与业务含义联系起来。
