27B模型在Mac本地跑,Nace AI开源Drex Max v1,评分67.52
Nace AI把Drex Max v1开源了:27B多模态决策模型,宣称能在Apple Silicon本地推理,评分67.52。先看已知事实,再看本地跑的现实门槛。
Nace AI 把 Drex Max v1 开源了。按 MarkTechPost 作者 Asif Razzaq 的报道,这是一个 27B 的多模态决策模型,评分 67.52,卖点是能在 Apple Silicon 上本地推理。原文链接在这里。
目前公开信息不多,能确认的关键词就几个:27B、多模态、决策模型、67.52 分、Apple Silicon 本地运行、开源。评测集是什么,67.52 在什么任务上算高,素材没展开。这个数字很醒目,但缺上下文时先别急着封神。模型叫 decision model,从命名看它瞄准决策类任务,具体能力边界还得看模型卡和评测说明。
本地推理这件事值得单独说。27B 参数放到 Mac 上跑,技术上不是新鲜事,难的是跑得稳、跑得快、跑得有用。按常规估算,27B 模型 FP16 权重约 54GB,8-bit 约 27GB,4-bit 约 13.5GB。Apple Silicon 的统一内存有优势,但内存带宽、量化方案、推理后端都会影响实际速度。官方有没有给量化版本,工具链是否顺滑,内存占用多少,这些比一句支持本地运行更关键。
开源的价值也在这里。权重和推理代码放开后,开发者能私有部署,数据不出机器,离线环境也能做原型。对隐私敏感的场景,这比调用云端 API 更有吸引力。但开源不等于好用。许可证是否允许商用,模型卡是否写清训练数据和限制,Apple Silicon 后端是否维护,都是要看的细节。
如果你有 Mac,最直接的验证方式就是下权重跑一遍。看加载后占多少内存,首 token 延迟多少,生成速度能不能接受,量化后精度掉得厉害不厉害。评分 67.52 可以先记着,等评测细节公开再横向比较。现在能确定的是,Nace AI 把一个大模型放到了本地推理的牌桌上,接下来要看社区跑出来的结果。
发布时间: 2026-11-01 16:10