Docker Model Runner 是 Docker Desktop 的新功能，旨在简化本地运行和测试 AI 模型的过程。它通过将推理引擎嵌入 Docker Desktop，提升性能并优化用户体验，支持从 Docker 和 Hugging Face 拉取模型，特别在 Apple 硅系统上实现 GPU 加速。

Docker Desktop 4.40于2025年3月31日发布，增强了AI开发工作流程，新增Docker Model Runner，支持从Docker Hub管理AI模型，简化集成。AI Agent升级支持模型上下文协议，提升与外部工具的互动。企业用户可通过报告功能提高合规性，促进AI工具与Docker生态系统的整合。

自托管的LLM（大语言模型）因其性能提升、成本降低和数据隐私等优势而日益流行。使用Docker Model Runner可以简化本地运行AI模型的过程，只需一条命令，无需额外配置。该工具支持Apple Silicon的GPU加速，需使用Docker Desktop 4.40或更高版本。通过简单命令拉取模型后，可通过API进行请求，支持从主机和其他容器访问模型。

Docker Model Runner在macOS的Apple Silicon上运行，简化了容器化应用的开发。它提供低成本、数据隐私和更快的推理速度，支持GPU加速，用户可从Docker Hub拉取模型并集成OpenAI API。相比Ollama，Docker Model Runner更适合容器化工作流。

Spring AI 1.0.0 M7发布，标志着最后一个里程碑版本。该版本引入模块化架构，减少依赖，改进包结构和工具管理，并支持Docker Model Runner，增强与多种AI模型的集成。

使用Docker Model Runner，开发者可以在本地高效运行大型语言模型（LLMs），支持GPU加速并以OCI工件存储，避免云API的复杂性，确保数据隐私。用户可通过CLI或API与模型交互，操作简便，提升开发效率。