Wink Pings

Gemma 4小模型tokenizer更新:乱码修了,GGUF还悬着

Google更新了Gemma 4 E4B、E2B和12B的tokenizer,修复特定token触发乱码的问题。GGUF会不会跟进还没答案,围绕量化对齐的旧讨论也被翻了出来。

Google 最近更新了 Gemma 4 小模型的 tokenizer。Reddit r/LocalLLaMA 的帖子以 E4B 为例,说 E2B 和 12B 也打了同样的补丁,修的是模型遇到某些 token 时输出胡话的问题。帖子作者不确定这个修复会不会下放到 GGUF。

Reddit 帖子截图

tokenizer 负责把文本切成模型能处理的 token。它和聊天模板都属于模型权重之外的交付件。权重没变,这些文件出问题,用户看到的却是模型在乱码或答非所问。有网友在跟帖里问,Google 怎么在权重之外的地方出了这么多状况,tokenizer 和多个聊天模板问题都碰上了。

也有人问怎么知道什么时候改了什么,有没有版本号。回复给了一个办法:看 Hugging Face 的 commit 历史。链接在这里:https://huggingface.co/google/gemma-4-E4B-it/commits/main

跟帖里还有一段插曲。有网友提到自己之前的评论被版主移除,并说下载未量化权重可以发现分组不能干净对齐 Q4_0,还贴了两个月前的旧讨论:https://www.reddit.com/r/LocalLLaMA/comments/1vmhc4h/comment/p3ahrc2/ 。这条线索目前没有看到后续更新。另一位网友的看法是,模型在大多数用例里工作正常,这次修复更像大用户基数测试后的常规改进。

对本地部署用户来说,tokenizer 补丁值得留意,尤其是准备重新下载权重或转换 GGUF 的人。GGUF 会不会跟进,帖子没有答案。量化对齐的旧问题也还悬着。有人还在问 benchmark。先看 commit 记录,再决定要不要动手,可能更省时间。

发布时间: 2026-11-17 02:55