Wink Pings

问 0.5B 的小模型问题,它答得比谁都自信

Reddit 上有人拿 Qwen2-0.5B 问问题,答案离谱到好笑。但真正有意思的地方是它错的方式,错得很有规律。

r/LocalLLaMA 上有个帖子,标题叫 "Asking questions to a 0.5b model is hillarious"。发帖的人 Pro-editor-1105 拿 Qwen2 0.5B 的 Q4_K_M 量化版问问题,然后一张张截图贴上来。

0.5B 就是 5 亿参数,Q4_K_M 量化完模型文件三百多兆,塞手机里、扔树莓派上都能跑。这个体量没人指望它答对。

image

主楼之后他自己接着回,越问越上瘾。

image

评论区有人 d0pe-asaurus 表示,自己早就下了 Qwen1.5-0.5B 的 Q2 量化版,专门在无聊的时候拿来消遣:huggingface.co/Qwen/Qwen1.5-0.5B-Chat-GGUF。Q2 比 Q4 压得更狠,损失的精度更多,按道理应该更没救。发帖的人当场表示要去试试到底能蠢到什么程度。

image

image

image

这堆截图里最有信息量的是 Duckmastermind1 的一句话:不知道为什么,小模型最后总会答到奥巴马身上。

这条观察比笑话本身值钱。小模型的幻觉不是随机的噪声,它有固定的坍缩方向。训练语料里出现频率最高的那些名字和实体,会变成模型在拿不准时的默认出口。所以不同的人问不同的问题,最后那张脸总是同一张。

AI_Enhancer 补了另一半:更绝的是那份自信。你告诉它答错了,它会回一句"当然!我很乐意把这个历史事实改成你想要的奇幻设定",末尾还带个笑脸。

Comacdo 说感觉像在跟三年前的模型聊天,有点怀旧。确实,2022 年那批模型就这个水平,那会儿大家还在惊叹它能写完整句子。

Big-Farmer-2192 的总结最短:这不就是红迪网友。

笑完还是能拎出点东西。参数少和错得离谱是两码事。0.5B 真正的毛病不在容量,它压根没有"我不知道"这个选项,所有东西都用同一个语气说出来,地名、年份、人名,还有奥巴马。

发布时间: 2026-11-06 17:07