8.8B模型摸到90%前沿分数，知识题露了底
webAI开源TwIL-8B，8.79B参数在代码、指令跟随和竞赛数学上接近前沿。Karpathy的小模型五条论点和这组基准放在一起，像一次成本结构变化的现场演示，知识短板、评测口径和非商用许可也一并摆上桌。
webAI把TwIL-8B的权重放上了Hugging Face。8.79B参数，代码、指令跟随、竞赛数学几项基准摸到前沿模型的90%附近。这个数字值得看，后面的限制也值得看。
Andrej Karpathy在推文里给了五条判断。原话里有一句很直接：一个1B模型可能比现在大多数LLM更有效，90%的模型把大量容量和钱花在记住不重要的事情上。五条论点可以压缩成下面这样。
- 智能从来不只是知识。把背下来的互联网剥掉，留下推理，剩下的认知核心很小。
- 这个核心可能塞进约1B参数，甚至更少。过去像在为一座图书馆付费，实际需要的是一颗大脑。
- 参数规模不再是瓶颈。Agent能不能工作，看它能调用什么工具，反馈闭环有多紧。
- 智能活在系统里，不在权重里。裸模型像没有操作系统的CPU，小核心加好harness，可能强过单独的大模型。
- 模型可以归自己所有。跑在自己硬件上的模型，没人能限速、涨价或直接下架。
TwIL-8B像是把这套判断做成了一个可下载的样本。它基于ibm-granite/granite-4.2-8b，走全参数SFT，再做GRPO/DAPO强化学习，最后加一轮长度感知RL，得到默认的balanced版本和更愿意长推理的verbose版本。上下文131072 tokens，bf16权重16.38 GiB，Q4_K_M GGUF约4.98 GiB，普通CPU或显存不大的GPU可以试着跑。
基准上，TwIL-8B的MATH-500是98.2，AIME 2025是88.3，LiveCodeBench是81.6，IFBench是74.4。按发布方给出的对比，它达到前沿模型LiveCodeBench分数的93%，IFBench的92%，HMMT Nov 2025的90%，AIME 2026和HMMT Feb 2025的88%。HMMT Feb 2026掉到69%。
90%+这个说法对应的是不同基准上的份额，不是单一总分。知识题就是明显短板。GPQA Diamond为70.2，比Qwen3.5-9B低11.5分，比Gemma 4 31B低14.1分；HLE为12.6。模型卡也写得很清楚，它不是知识模型，没有额外的安全、偏好或工具使用训练。
评测口径同样需要摆出来。带†的分数是在verbose版本上测的，还没在balanced上跑。竞品分数来自公开模型卡或第三方评测，没有重新跑。AIME和HMMT一套只有30到33题，一题大约3分，几分差距可能在噪声里。Token成本也不低，AIME 2026每题约19.5k输出tokens，比Qwen3.5-9B少38%，但仍是GPT-5.5约5k tokens的四倍左右。
评论区里有人追问Q4_K_M相比bf16掉多少精度，David Stout回复说用他们的AIR方法损失很小；也有人直接问，小模型做代码和数学有什么意义，更想看浏览器和电脑操作。这些反应比发布文案更接近真实使用场景。
小模型的价值不在把大模型所有活都接过来。它更像一个可部署的推理核心，配上工具、记忆和反馈闭环，去接那些高频、固定、对成本敏感的步骤。TwIL-8B的代码和指令跟随数据给了这种路线一个现成样本，知识短板和非商用许可也提醒别把它当万能助手。参数崇拜可以降温，benchmark崇拜也不用急着升温。
发布时间: 2026-11-06 16:27