苹果 GPU 上跑 KMeans:最高 7 倍,e-means 最高 15 倍
mlx-learn 0.1.3 把 KMeans 和 Meta 的 e-means 放进 Apple Silicon GPU,保留 scikit-learn 风格 API。10M 向量、65,536 个中心的单种子测试里,Metal KMeans 比 scikit-learn 快 1.96 到 6.19 倍,Metal e-means 比 CPU Faiss 快 3.5 到 15.6 倍。
mlx-learn 0.1.3 发布了,新增两个聚类实现:KMeans 和 EMeans,都跑在 Apple Silicon GPU 上。安装命令很直接:
pip install mlx-learn==0.1.3
mlx-learn 的定位是用 MLX 加速经典机器学习,API 向 scikit-learn 靠。它有两层用法:一层是直接 import mlxlearn.cluster.KMeans 或 EMeans;另一层是 patch_sklearn(),把 scikit-learn 里的名字指向加速实现,原有代码少改。注意,KMeans 和 EMeans 都是直接 estimator,不参与 patch_sklearn(),所以现有代码里的 sklearn.cluster.KMeans 不会被悄悄替换。
KMeans 走的是熟悉的 Lloyd 聚类:全批量、稠密 FP32 训练,支持显式中心、随机中心、k-means++ 初始化,也支持多次 restart,最后给出最近中心标签和 inertia。原帖给的数字是 Apple GPU 上最高 7 倍加速;10M 向量基准里,五个数据集、65,536 个中心、FP32、seed 10、相同初始中心和 pass 预算下,Metal KMeans 比 scikit-learn KMeans 快 1.96 到 6.19 倍。这是单种子测量,没有误差棒,也没有统计显著性声明。
EMeans 更值得看一眼。它来自 Meta 的新论文 e-means: outperforming k-means (in one-tenth the epochs)。思路是用 mini-batch 更新中心,中心用指数移动平均维护,batch size 和 decay 由 scaling law 直接给,不靠手调。论文的说法是,它用更少 epoch 收敛到更低 loss,常见情况下比 Lloyd k-means 快很多。mlx-learn 的实现支持论文配方、Faiss 配方、last-epoch means、slow EMA、spherical clustering,也支持 precision="bfloat16" 的原生 BF16 Metal assignment。
原帖给的 EMeans 数字是最高 15 倍加速,对比原始 CPU 实现。另一条回复把范围说得更细:五个 10M 向量数据集,Metal e-means 在同一台 M4 Max 上比 CPU Faiss e-means 快 3.5 到 15.6 倍;在匹配 pass 预算时,held-out 聚类误差比 Metal KMeans 低 1.4% 到 4.5%。这些数字同样来自单种子 FP32 跑分,适合拿来判断量级,不适合当成普适承诺。

使用门槛也清楚:macOS on Apple silicon arm64,Python 3.10 到 3.13,scikit-learn ≥ 1.7,MLX ≥ 0.29。0.1.3 还标着 alpha,API 可能变。小数据和小查询不一定划算,GPU 启动和准备开销会吃掉收益。原帖评论区有人问最小数据集门槛,作者没有直接回答;文档里能确认的是,其他 patched solver 在低于 crossover 时会交给 scikit-learn,聚类这两个直接 estimator 不走 patch,换之前先在自己的数据上测。
评论区还有人贴了 o-means,声称用 e-means 22% 的时间达到同等误差。那是另一个 Faiss contrib 实现,基准在 RTX 5090 上,和这次 Apple Silicon 更新不是同一件事。把它当对照可以,别混成同一个发布。
整体看,这次更新补的是 Apple Silicon 上经典机器学习的一块拼图:聚类能上 GPU,API 还保持 scikit-learn 风格。对做 embedding 聚类、向量索引、码本训练的人,10M 级数据才有意思;小样本上,先跑基准再换。
发布时间: 2026-11-17 01:27