Wink Pings

GPT 6.2 Astra 的铃铛癖好:模型坍缩的一个现场样本

一位付费用户发现 GPT 6.2 Astra 无论接到什么创意任务,都会把铃铛塞进设定里。社区跟帖从困惑、调侃到技术解释,把这件事变成了一堂关于语义吸引子和模型坍缩的现场课。

Reddit 用户 metigue 在 r/ChatGPT 发帖,说他用 200 美元订阅的 GPT 6.2 Astra 做创意任务,不管给什么题目,模型都会把铃铛塞进去。

他原本习惯给模型一个框架,让它在框架内自由发挥,出来的东西通常挺多样。这一次例外,每次都一样,都是铃铛。

他 frustration 到给了一份超详细的规格说明,细到每一个细节都写清楚了,心想这总不可能再加铃铛了。结果模型还是找到了办法,把一个角色的核心主题改成铃铛,而他当时没注意到。

他写道,没人要求这个。他还知道模型的代号是 Bel,但这也太夸张了。

跟帖里很多人一开始没看懂。有人问,你们到底在说什么,是写作、编程、音乐还是图像?是字面意义的铃铛,还是“ bells and whistles ”那种功能堆砌?

也有人跟着吐槽。More-Map1924 说他试过要一个安静的森林场景,还明确禁止所有听觉描述,模型仍然写了远处的风铃。他觉得铃铛已经成了默认的感官占位符。Royal-Tax2531 说他要一首没有铃铛的诗,还加了“不要音效”,描述里还是有铃铛。

JourdanThomas 给了一个实用建议:先让模型提几个主题,你来选。metigue 回复说,他并没有说永远不要铃铛,只是模型在很多全新的上下文里都塞。那份详细规格里零次提到铃铛,设定本身也不适合出现铃铛。模型把一个使用炸药的角色改成了所有炸药都是爆炸铃铛。

Technical-Ice1901 给出了技术解释。他把原因归结为语义学习空间里的吸引子。现代大模型的问题在于,训练数据量相对模型规模和训练算法不够,模型会对已有的数据过拟合,某些词和概念会形成吸引 Basin。

他举了几个例子:让 Anthropic 的 Claude、SpaceX 的 Grok 或 OpenAI 的 ChatGPT 在 1 到 30 之间选一个数字,它们都会给 17。让这些模型给新《星际迷航》剧集起标题,出来的东西在语义上都约等于“星星之间的寂静”。

他说,具体场景可以用系统提示和工具部分修复。给模型一个随机数生成工具,并指示“被问到随机数时必须使用这个工具”,就不会再有 17。通用情况下也可以调高 temperature 参数,让模型选择低概率场景,从而探索更大的空间,代价是整体质量和准确性下降。

CplOreos 认为这是模型坍缩的症状,不是有意为之。他解释,系统通过偏向高概率、平均化的输出来走捷径,丢掉低概率的边缘情况。分布曲线的尾部掉落,方差减小。模型看起来就会不管上下文硬塞某些概念。推得足够远,模型可能失去所有方差,坍缩到一个点,无论给什么提示都输出同样的东西。

Nebty 说,不只是 6.2,6 Astra 也喜欢铃铛。原因可能和 LLM 经常使用灯塔和地图一样。

还有人把这事和之前 ChatGPT 对哥布林的痴迷联系起来。MadGenderScientist 问,稳定的吸引子是不是 ChatGPT 那阵子迷恋哥布林的原因。

帖子里也有人提到,X 上有人注意到了同样的现象。链接放在这里:https://x.com/theo/status/2122762384704258122

原始讨论:https://www.reddit.com/r/ChatGPT/comments/1xzq1zj/gpt_62_astra_uses_bells_as_a_fingerprint/

发布时间: 2026-11-19 04:34