8.8B 模型追到前沿九成，先别急着撕大模型账单

TwIL-8B 放出权重，8.8B 参数，模型卡和权重都在 Hugging Face。发布方 webAI 给出的数字直接：LiveCodeBench 81.6，达到前沿最高分的 93%；IFBench 74.4，达到 92%；AIME 2026 88.3，HMMT Nov 2025 86.7。同一张模型卡也写明，GPQA Diamond 70.2，HLE 12.6，知识类基准落后明显。

这组数字对应 Andrej Karpathy 今年反复讲的小模型判断。Codez 在推文里转述了五条：智能从来不是知识，去掉背下来的互联网，留下推理核心，这个核心可以很小；核心可能塞进约 1B 参数；尺寸不再是瓶颈，agent 能不能调工具、反馈闭环紧不紧更关键；智能住在系统里，不在权重里，裸模型像没有操作系统的 CPU；小模型可以归自己所有，没人能限流、涨价或下线。Karpathy 的原话更刺：“A 1B model can be much more effective than most current LLMs. 90% of current models waste a ton of capacity and money on remembering stuff that doesn’t matter.” 这段转述放在 TwIL-8B 发布前一天，指向很清楚。

TwIL-8B 基于 IBM Granite 4.2 8B，全参数 SFT，再做 GRPO/DAPO 强化学习，最后用长度感知奖励压推理长度，分出 balanced 和 verbose 两个版本。balanced 默认，推理短，成本低；verbose 适合难题，token 更多。bf16 权重 16.38 GiB，Q4_K_M GGUF 4.98 GiB，上下文 131072 tokens。模型卡写得很清楚：它能本地跑，知识类是短板，也没有在 Granite 4.2 之外做安全、偏好或工具调用训练。

把 TwIL-8B 和同尺寸开放模型放一起，代码和指令跟随是强项：

• MATH-500 98.2，Qwen3.5-9B 96.6，Gemma 4 31B 87.9
• AIME 2025 88.3，Gemma 4 31B 87.1
• LiveCodeBench 81.6†，Gemma 4 31B 80.0，Qwen3.5-9B 65.6
• IFBench 74.4†，Qwen3.5-9B 64.5，Gemma 4 31B 76.0
• GPQA Diamond 70.2，Qwen3.5-9B 81.7，Gemma 4 31B 84.3
• HLE 12.6，Qwen3.5-9B 14.9，Gemma 4 31B 19.5

† 表示在 verbose 版本上测，balanced 还没跑。模型卡还标注，竞品分数来自公开来源，没有重跑。AIME 和 HMMT 每套 30 到 33 题，一题约 3 分，几分差距落在噪声里。模型卡把 GPT-5.5、Claude Opus 4.8、Grok 4.3 的最高推理档当参照，TwIL-8B 在 LiveCodeBench 和 IFBench 上最接近前沿，知识类差距最大。

评论区没有统一口径。有人问 Q4_K_M 精度掉多少，David Stout 在回复里说“very little with our AIR method. better than unsloth.” 也有人直接问“Benchmaxxing?” 发布方没展开。权重开放，许可证是 webAI Non-Commercial License ver. 1.0，商用要看许可。

对普通用户，参数只是尺度之一。Q4 量化后不到 5 GiB，模型可以塞进消费级硬件，推理在本地跑，数据不出机器，API 账单和限流不归别人管。对开发者，Hugging Face 页面给了 Transformers、llama.cpp、vLLM、Ollama 的加载方式。用 llama.cpp 可以跑：

llama-cli -hf webAI-Official/TwIL-8B --hf-file TwIL-8B-Q4_K_M-balanced.gguf -cnv -c 40960 -n 32768

生成预算要给足，模型默认先输出 <think> 块。预算短会截断推理，分数掉得厉害。模型卡里 balanced 在 AIME 2026 上平均约 19.5k output tokens，HMMT Feb 2026 约 32.9k。

TwIL-8B 的价值不在“又一个榜单第一”。它把一个问题摆到桌面上：如果 8.8B 的模型能完成足够多代码、数学和指令跟随任务，大模型账单里有多少钱花在背知识上。Karpathy 的五条判断不会因为一个模型全部成立，TwIL-8B 的知识短板也摆在那里。但本地部署、成本和可控性这些词，开始有具体型号可以指了。

原始推文：mervenoyann 和 David Stout。