AI曲线陡得像故障,但图上的“钻石”大半是估算
Paul Graham转了一张METR时间跨度图,说如果为真增长快得离谱。Ben Todd用内部指数外推,评论区在吵测量口径。外链长文把趋势推到18个月超人类AGI,问题是这些趋势能不能跨过任务框架、验证和判断力这些坑。
11月16日,Paul Graham 转发了 Benjamin Todd 更新的 METR 图,配文是“If this is real, this is stupendously fast growth”。图在 log 轴上几乎垂直。
METR 的时间跨度基准不复杂。给 AI 一堆工程、网络安全、电脑操作任务,先测人类专家做这些任务要多久,再看模型能以多高可靠性完成最长的任务。传统上 METR 用公开模型测,现在官方图不更新了,理由是测不到那么长的时间跨度。Ben 这张图接在官方数据后面,用的是 Anthropic 内部 AECI 分数外推。他自己在回复里说得很清楚,50% 时间跨度除以 6 得到 80% 时间跨度,很粗略,但按 Fable 5.2 的表现,约 30 小时任务看起来差不多。
评论区第一条就拆台。Amy 说钻石不是测量出来的,只有黑点是真实数据,其余是某个人的估计。Ihtesham Ali 把陡峭段拆得更细:METR 实际测到的只有 Claude Mythos Preview 的 3.1 小时,Model 4 的 38 小时是从 Anthropic 内部指数除以 6.3 估出来的。cherub 说 AECI 和 ECI 分歧很大,用 ECI 算 Opus 5.5 或 Fable 5.2 会得到完全不同的时间跨度。Adam Karvonen 补了一刀:这张图只适用于定义清楚、可验证的基准任务,混乱的 AI 研发任务慢得多,OpenAI 报告里 80% 可靠性下的时间跨度不到 30 分钟。
Ben 的外链长文把事情推得更远。他的两个核心指标是收入和任务时间跨度。收入方面,OpenAI 和 Anthropic 在 2026 年 9 月年化超过 1150 亿美元,2024 年增长 3 倍,2025 年 4.7 倍,2026 年 6 倍。时间跨度方面,2019 到 2023 年大约每年 3 倍,2024 到 2025 年每年 8 倍,2026 年又翻倍到大约每年 50 倍。他认为这些趋势在加速,不是常见的 S 曲线。

更关键的是递归自我改进。Anthropic 内部调查里,研究员说 AI 让自己的生产力从 2 倍、4 倍涨到 12 倍。METR 独立评估后基本认可,2025 年 10 月以来 Anthropic 的进展加速约 1.9 倍,其中约 80% 来自用 AI 加速自身研究。Claude 在 8 月已经领导 26% 的模型研发工作,1 月还是 0%。Ben 用一个简单模型推演:进展每翻倍一次,所需时间减半,12 个月、6 个月、3 个月、1.5 个月。他给出的判断是,30% 以上概率递归自我改进已经开始,6 到 18 个月到广泛超人类 AGI;25% 概率推到 2030 年代;20% 概率要几十年。

反方意见也不弱。Steffen Rentschler 在评论区说,收入推断方向有问题:你估计公司愿意为能完成大部分办公室工作的 AI 付多少钱,然后把这个支出水平当成 AI 能完成大部分办公室工作的证据。任务时间跨度也有同样的坑:一个系统解决了专家要三周的问题,但谁选的问题,谁定的假设,谁规定什么算解?三周的工作发生在给定框架内,说明不了系统能不能发现框架本身错了。递归自我改进里,研究者仍然在识别弱点、选择实验、判断结果是否算进展。测量团队快了多少,不能告诉你模型什么时候能接管这些判断。他还列了语义问题、框架问题、安全问题。
Boogaloo 则把话题拉回物理世界。他认为就算有 ASI,建一个中国规模的工业国至少 14 年,概率质量更多在 25 年以上。供应链怎么运转、在哪里、能不能按时间表放大,不是无限劳动力一放就自动解决。
图很吓人,但吓人的部分要拆开看。黑点是实测,钻石是外推。AECI 是 Anthropic 内部基准的复合分,拿它映射 METR 时间跨度,中间隔着历史相关性。相关性能当桥,桥的承重没标。另一面,只看定义清楚、可验证的任务,加速是真的。麻烦在于真实工作大多不可验证,上下文脏,成功标准还会变。趋势可能继续,但跨过这些坑需要另一种证据,不是把同一条线再画长一点。
评论区有人问第一个被吃掉的工作是什么,也有人问第六个月留存率。两边都问到了点子上,图回答不了。看到这种曲线,先问三件事:点从哪来,误差多大,任务谁定义的。图可以当警报,不能当判决书。
发布时间: 2026-11-17 08:30