Wink Pings

笔记本跑出Opus 4.6的性能?这条视频的评论区没打算买账

Alex Finn在Microsoft Surface Ultra上跑通本地Qwen 3.8,声称性能等于Opus 4.6。评论区有人追问benchmark,有人直接说差得远。同一周,另一位用户把Bonsai 2 27B塞进24GB内存的MacBook Air,跑到35 tok/s。

Alex Finn发了一条视频,说自己在笔记本上跑通了Qwen 3.8,性能相当于Opus 4.6,而且本地、无限、私密。

设备是Microsoft Surface Ultra,用的NVIDIA RTX Spark芯片。Finn在回复里说明,这台机器是微软送的,但对方没付费,也没要求出内容,他是用着觉得好才拍的视频。

视频里他演示了怎么用Hermes在自己手头的任何设备上加载本地模型,以及能搭哪些项目。至于「Opus 4.6性能」这个说法,评论区有人直接追问:在哪个benchmark上?另一个用户回得更干脆:我怀疑这连Opus 4.6的边都沾不上,实际上差得远。

这种分歧本身比结论更有意思。本地小模型的进步是真实的,但「等于某个云端旗舰」这种表述,一旦没有具体评测口径,就很难服众。

同一条讨论串里,用户ash给出了更具体的数据。他把Bonsai 2 27B跑在M4 MacBook Air上,24GB内存,速度约35 tokens/s,比之前快4倍以上。Bonsai 2 27B基于Qwen3.8 27B,按PrismML的发布说明,体积只有全精度版本的九分之一,综合benchmark保留了98.2%。

Bonsai 2 27B benchmark

也不是所有人都顺利。有人回复说,自己在M4 iMac、32GB内存上就跑得不太行。设备规格和实际体验之间,还有不少变量。

ash自己在回复里提到,他目前把Bonsai 2 27B当子代理用,orchestrator还是6.1,接下来想试试更多本地CUA的场景。

Finn还在回复里道了个歉,说这次音频没弄好。他没用自己的常规设备,以为300美元的DJI麦克风够用,结果不行。他补了一句,得跟自己本地的模型聊聊,看能不能推荐个更好的麦。有人问Qwen是不是中国的,他回:我觉得Freddie Mercury是英国的。

回到本地模型这件事。它的价值不在参数表上,在于把无限次调用和数据不出设备变成了可选项。至于这个可选项现在能不能替代云端旗舰,评论区显然还没达成共识。有一位用户的说法比较克制:Opus 4.6本身就是个游戏规则改变者,如果这级别的东西能本地跑,12个月后能跑什么,值得想象。

发布时间: 2026-11-04 22:37