苹果新应用 Harbor 曝光：插线连接多台 Mac，一起运行本地大模型
内容提要
苹果正开发新应用 Harbor，可将 Apple Silicon Mac 变为本地 AI 推理服务器，支持运行开放权重模型、内置模型管理，并通过 Thunderbolt 5 自动连接多台 Mac 组建集群，突破单机内存限制，运行更大模型并提升并发能力。该应用目前以 Claris 品牌私人预览，或先面向开发者与企业。此前开源项目 exo 已实现类似多机协同推理。
延伸解读
多机协同推理的实际意义
Harbor 的核心价值在于突破单机内存限制。文章举例，两台 64GB 统一内存的 Mac 单独运行时各自受限于自身容量，而通过 Thunderbolt 5 连接后，理论上可共同承担一个大模型的推理任务。这意味着用户无需购买单台超大内存设备，就能运行原本无法容纳的模型，同时多机协作还能提升并发服务能力。
降低分布式推理的使用门槛
文章强调，Harbor 让用户只需连接支持 Thunderbolt 5 的 Mac、启动应用，就能自动发现设备并建立集群，无需命令行、手动配置网络或了解分布式推理技术。相比开源项目 exo 需要一定技术背景，Harbor 若能将流程简化为类似安装普通应用，将显著降低多机运行大模型的操作难度。
初期定位与可用性限制
根据爆料，Harbor 目前以苹果旗下 Claris 品牌进行私人预览，Claris 主要提供 FileMaker 等企业应用开发和数据管理工具。这暗示 Harbor 最初可能面向开发者或企业用户，而非所有 Mac 用户。此外，自动组建集群依赖 Thunderbolt 5 连接，意味着对设备接口和机型有一定要求，普通用户短期内未必能直接使用。
Q&A
苹果的 Harbor 应用是做什么的？
Harbor 是苹果正在开发的新应用，旨在将搭载 Apple Silicon 的 Mac 变成私有 AI 推理服务器，支持本地运行开放权重 AI 模型，并通过 Thunderbolt 5 连接多台 Mac 组建集群，以突破单机内存限制。
Harbor 如何解决单台 Mac 内存不足无法运行大模型的问题？
Harbor 可以通过 Thunderbolt 5 将多台 Mac 连接起来，自动发现设备并组建集群，利用多台 Mac 的内存资源共同承担一个大模型的推理任务，从而突破单机内存容量限制，运行单台设备无法容纳的模型。
使用 Harbor 组建 Mac 集群需要手动配置网络或命令行吗？
不需要。根据曝光介绍，用户只需连接支持 Thunderbolt 5 的 Mac，启动应用，Harbor 就会自动发现设备并建立集群，无需命令行、手动配置网络，也不需要了解分布式推理技术。
Harbor 目前处于什么阶段？可能面向哪些用户？
Harbor 目前以苹果旗下 Claris 品牌进行私人预览，这意味着它最初可能面向开发者或企业用户，而不一定直接面向所有 Mac 用户。
除了本地运行模型和集群，Harbor 还有哪些主要功能？
Harbor 还提供内置模型管理，用户可以直接在应用中浏览、下载和加载模型，无需手动配置运行环境；同时通过多机协作提高并发能力，为更多用户或应用同时提供 AI 推理服务。
之前有没有类似 Harbor 的多机协同推理方案？
有。此前开源项目 exo 就已经尝试将多台设备组成 AI 推理集群，让不同设备共同运行大型模型。苹果的 Harbor 有望将类似技术整合成面向普通用户的产品。
