109M参数赢过72B，LeCun这篇论文在拆大模型的台

Yann LeCun 和 Randall Balestriero 最近发了一篇论文。推文把它概括得很刺眼：109M 参数赢过 72B。LeCun 多年说规模不是让模型理解世界的关键，Meta 押了另一边。推文称他 11 月离开 Meta，在巴黎开了自己的实验室，上周四公布了这份证明。

从 2024 年起，行业里有个流行假设，后来常被叫作柏拉图表示假设。模型只要在文本、图像、声音上训得足够大，内部会收敛到同一套现实表示。规模会解决一切。这个假设一直缺证明。

Balestriero 和 LeCun 把它转成定理。摘要写明，JEPA 可以在任意数量模态上学到相同表示，即使正对只是同一场景的不同观察视角，失配也有界。真正决定学习效率的是给模型看的两个东西是不是同一件事的两个视角。JEPA 走联合嵌入预测路线，让模型学两个视角在表示空间里对齐，不靠逐词预测。

照片和它的 caption 是同一件事的两个视角。同一篇文档里随便抽两段，不是。下一词预测属于后者。几乎所有聊天机器人主要跑在这套目标上。

在测试里，第一种方法用了 21.6M 个样本达到同等理解。下一词预测要 900M。一个 109M 参数的文本模型，最后比 72B 参数的语言模型更接近图像模型的世界观。小 660 倍。

摘要还提到，从 145k 个 caption 到 940M 个网页图像文本做验证，得到一条能预测未跑过实验的对齐定律。好视角达到同等对齐，需要少 42 倍样本。109M 文本 JEPA 对 DINOv2 和 CLIP 图像编码器的对齐，好过 72B 文本编码器。ImageNet-100 五选一零样本准确率 64%，对比语言模型最高 56%。图中蓝线是好视角 JEPA，橙线是下一词 LLM 目标，红线是坏视角 JEPA，横轴是训练样本数，纵轴是与 DINOv2 的对齐度。

这些数字最扎人的地方，是行业过去两年把大部分筹码压在参数和算力上。规模好讲，好融资，好堆卡。数据配对和目标函数难讲，也难做成发布会。论文如果站得住，大模型不会立刻失效。预算表要重算：同样对齐效果，样本效率差 42 倍，参数小 660 倍，钱和卡该往哪放。

推文原文：https://x.com/ylecun/status/2116977874913648878