苹果新应用Harbor:几台Mac插在一起,就能跑本地大模型
Apple正在测试Harbor,把Mac变成私有AI推理服务器。它用Thunderbolt 5把多台Mac的统一内存池化,跑单机跑不动的大模型。目前以Claris品牌做私有预览,评论区已经在翻旧账。
Apple正在开发一个叫Harbor的新应用。消息来自Aaron(@aaronp613)在X上贴出的截图和产品描述。它的目标很直接:把Mac变成一台私有AI推理服务器,在本机跑开放权重模型,数据不出硬件,也不进云。
Harbor的产品描述里写了几个关键点。模型在Apple silicon上本地运行;可以通过Thunderbolt 5连接多台Mac,把统一内存池化成一个推理资源;这样能跑单台机器内存装不下的模型,或者承载更高并发。设置过程被压缩到几分钟,应用会自动发现Thunderbolt 5设备并组成集群,不需要手动配置、命令行,也不需要基础设施经验。
对不熟悉硬件的读者,统一内存可以简单理解成CPU和GPU共享同一块内存。多台Mac把统一内存池化,相当于把几台机器的内存拼成一块更大的池子。Thunderbolt 5的带宽够高,才让这种拼法在桌面级设备上变得可行。Harbor还内置了模型管理,可以在应用里浏览、下载、加载开放权重模型。
这件事值得注意的地方不在“本地跑模型”本身。llama.cpp、Ollama、LM Studio都能做。Harbor真正想解决的是内存墙和集群配置:大模型吃内存,单台Mac再贵也有上限;多机推理又通常需要折腾网络、模型切分和调度。苹果如果能把“插上雷雳5、启动、跑起来”做成产品,门槛会完全不同。
Harbor目前以Claris品牌做私有预览。Claris这个名字在苹果历史里出现过,评论区有人直接贴梗图。更细的线索是,有网友在第二张截图的下载路径里看到com.claris.fabric,Aaron回复说它以前叫Fabric,后来改名Harbor。产品还没公开,改名痕迹先留在了路径里。
回复里还有一段演示视频:
评论区也没闲着。有人提到Exo早就在做多机推理,也有人问Exolabs是否参与Harbor,但没有得到确认。还有人注意到宣传素材里出现M2 Pro,而M2 Pro并不支持Thunderbolt 5。Harbor的集群功能明确依赖Thunderbolt 5,这个细节原文没有解释。是广告素材拿旧图凑数,还是Harbor对非Thunderbolt 5设备另有安排,目前只能等更多信息。
我的判断是,Harbor的意义在于把“集群推理”从极客手工活变成消费级应用。苹果没有在云端堆GPU,而是把算力拉回你桌上的Mac。这个方向不新鲜,但苹果来做,产品化和默认体验会不一样。普通用户先别急着算电费,它需要多台支持Thunderbolt 5的Mac,成本不低,而且还在私有预览。开发者和有Mac小集群的团队可以盯紧一点,如果它真能几分钟组集群,本地推理的玩法会变。
发布时间: 2026-11-11 09:33