Wink Pings

26B参数模型跑在32GB Mac上,SWE-bench得分79.2%:Thinking Machines发布Inkling 2 Mini

Thinking Machines推出Inkling 2 Mini,一个26.4B参数的looped MoE transformer,激活参数仅3.4B。它能在32GB Mac或单台DGX Spark上运行,SWE-bench Verified得分79.2%。小模型高性能,本地运行成为可能。

Thinking Machines 发布了 Inkling 2 Mini,一个 26.4B 参数的 looped MoE transformer,激活参数只有 3.4B。它能在 32GB 内存的 Mac 上运行,或者单台 DGX Spark,在 SWE-bench Verified 上得分 79.2%。

先解释几个词。Looped transformer 指的是循环使用同一组层,减少参数但增加计算深度。MoE 是混合专家,每次推理只激活部分专家,所以总参数 26.4B,实际计算量相当于 3.4B。这种设计让模型在保持能力的同时大幅降低推理成本。

32GB Mac 能跑,意味着本地部署门槛很低。你不需要 A100 集群,一台 MacBook Pro 就能跑一个代码能力接近大模型的 AI。SWE-bench Verified 是评估 AI 解决真实 GitHub issue 的基准,包含 500 个问题,模型需要生成补丁并通过测试。79.2% 的分数相当高,接近一些闭源大模型。

Thinking Machines 由前 OpenAI CTO Mira Murati 创立,Inkling 2 Mini 是他们的第二个模型。这次发布传递的信号很明确:小模型、高效率、本地运行。当行业还在卷万亿参数时,这条路线值得关注。

原文链接:https://www.marktechpost.com/2026/11/21/thinking-machines-inkling-2-mini-looped-transformer/

发布时间: 2026-11-21 20:13