Wink Pings

OpenAI首席科学家的2027预言:预训练可能雪崩,他却在呼吁限速

OpenAI首席科学家判断,AI参与预训练算法研究,可能让2027年出现一连串基础突破;同时他提议用困惑度等指标设共同上限,等监控能力到位再继续。Reddit网友围绕算力、对齐和OpenAI是否落后吵成一团。

OpenAI首席科学家在 OpenAI 官网的一篇文章里给出了一个时间点:2027 年,预训练算法研究可能迎来一波基础突破。文章被转到 r/singularity 后,跟帖很快从技术预测滑向另一个问题:如果真出现这种加速,谁踩刹车,谁又踩得动。

他的核心判断是,AI 可能参与预训练算法研究,而这是开发流程里关键的一环。有了一处加速,就可能出现一连串加速。文章里举了数学的例子:OpenAI 把开放数学问题当作模型评测,升级到某个模型后,log-perplexity 约 0.76,模型开始产出突破性结果。困惑度可以理解成模型对文本的“意外程度”,数值越低,模型越不困惑,预测越有把握。这个变化来得很快,于是他们试着外推:深度学习研究里也可能出现类似的突变。

OpenAI文章截图

原文写得很直白:最快 2027 年,我们可能看到预训练基础进展的“雪崩”。

然后文章又补了一句:AI 也会在对齐和监控上出力,但这项进展不太可能快到足以释放预训练的全部加速潜力。近期模型里,已经能看到 AI 给出的有意义的设计贡献。等进入 log-perplexity 约 0.68 到 0.7 的区间,还可能出现什么能力,他现在也不知道,今天的测试未必覆盖那些能力。

因此他提出,开发者可以共同承诺不跨过某些基于困惑度和其他测量的上限,直到我们理解并监控 AI 行为的能力达到一个具体里程碑。

原文:Perplexity and Intelligence

讨论:r/singularity 帖子

在 Reddit 上,有人先拿数学结果开玩笑:能证明黎曼猜想和 NS 方程的系统,放到 2027 年可能已经算原始。下面立刻有人反驳,说别把研究说成游戏里的“一击通关”,那些结果背后是多年扩展和算法上的小跳跃累积起来的。还有人把话题引到 Anthropic,说相关模型和配置一直没看到公开说明。这个分支没有定论,更多是猜测。

再往后,讨论集中到对齐。有网友提出一个不受欢迎的观点:如果 ASI,也就是超级智能,比人强太多,让人去监督它,就像让猿去监督人,逻辑上很别扭。也许更强的 AI 能更快解决对齐和监控问题。反对者回得也直接:这等于假设那个用来解决对齐的 ASI 自己已经对齐。另一个人补刀,说我们正在快速进化的 AI 面前就是猿,拿一个未对齐的系统去检查更聪明的系统是否对齐,听起来不像方案。

这大概是整串讨论里最尖锐的地方。能力研究和安全研究被放在同一条时间线上,谁先谁后,没人能给出让所有人满意的顺序。

帖子后半段则回到现实:有人断定暂停不会发生,全球资本主义经济结构不支持这种减速;也有人调侃,OpenAI 呼吁全行业限速,听着像一个在跑道上稍微落后的人喊朋友等等他。还有评论直接说,OpenAI 在 2026 年被 Anthropic 和 Google 超过,最新模型除了数学之外,在多数基准和用户体验上都不占优,所以限速呼吁容易被看成竞争策略。

这些说法未必都对,但它们说明一件事:当“2027 年可能雪崩”这种判断从实验室传到论坛,它就不再只是技术预测,也会变成竞争、监管和对齐争论的素材。文章里最值得记住的细节,反而是那个不知道:进入 0.68 到 0.7 的区间后,会出现什么能力,今天可能根本没在测。

发布时间: 2026-11-23 01:52