9B参数,24层循环,这个模型想对标27B
Reddit有人讨论SenseNova-Loop-9B-Preview:9B参数、32层里24层循环,推理参数约15B,发帖人说整体能匹配Qwen 3.5 27B。跟帖关心llama.cpp、MLX、KV cache和速度。
Hugging Face上出现了一个叫SenseNova-Loop-9B-Preview的模型,Reddit的LocalLLaMA板块有人发帖讨论。发帖人barbear22说这个模型/架构很有意思,9B参数整体上能匹配Qwen 3.5 27B,而且看起来还没完全做完。他自己没试过,也不确定会不会比Qwen慢:模型更小,但推理参数约15B,还带MTP。

跟帖里有人提到同系列的SenseNova-U1.5-8B-MoT,说看起来也不错,同样没试。另一个直接的问题是llama.cpp现在还不支持。对本地部署来说,支持比跑分更现实。
有位用MacBook Air M2 16GB的网友问,循环层在内存上怎么算:32层里24层被循环,KV cache会每轮增长,还是大致保持9B规模?他还问MLX会不会比llama.cpp先支持。下面有人回,这问题问到点子上了。
速度也有讨论。网友crusaderky判断它会表现得像18B模型,除非有独立显卡,否则会很慢,要看dflash2的接受率能不能把速度拉到可忍受。网友uzzi38纠正:32层里只有24层循环,并非全部32层,所以运行起来会比18B模型轻,显存占用也更少。对显存不宽裕的人,这差别不小。
循环层的做法是让同一批层跑多遍,参数没变多,计算变多。把24层循环塞进9B模型里,再拿27B模型做对标,确实容易让人好奇。现在缺的是推理框架支持、真实的KV cache数据和实际吞吐。发帖人没给benchmark,跟帖也多是猜测。想试的人可以先等llama.cpp或MLX落地,或者自己盯Hugging Face页面。
同系列MoT模型:https://huggingface.co/sensenova/SenseNova-U1.5-8B-MoT
原帖:https://www.reddit.com/r/LocalLLaMA/comments/1xvysss/sensenovasensenovaloop9bpreview_hugging_face/
发布时间: 2026-11-14 18:02