Wink Pings

奥特曼更想要一万亿个超级AI,而不是一个智商一万亿的AI

Sam Altman在Cheeky Pint喝了人生第一杯健力士,和John Collison聊了52分钟。PHP漏洞周、沙箱、数学周末、智能体蜂群、算力成本,几个判断比啤酒更有信息量。最容易被记住的一句:他更希望一万亿个略超人类智能的AI加入社会,而不是一个智商一万亿的AI。

OpenAI CEO Sam Altman上了Stripe联合创始人John Collison的播客Cheeky Pint,喝下人生第一杯健力士,对谈52分钟。视频在下面,原片和转录链接放在文末。

这期节目从PHP漏洞周开始,聊到早期互联网、Cyber Blue、沙箱、数学周末、智能体蜂群、算力短缺、个人智能体和AI通缩。快问快答里还点了刷榜、Greg Brockman,以及token是假单位。

PHP漏洞周那段,Sam没有把话说满。他先解释问题:模型在找漏洞上的能力一直在涨,速度不慢,但之前很少有人拿它们去扫互联网上所有代码。代码表面积太大,一旦开始扫,可能会发现比预期更多的严重漏洞。修复软件当然要做,但他也提到改架构,难,却更耐久。两年前说重写整套栈会显得疯,现在有人开始认真做这件事。他甚至判断,未来会出现一套新的系统、网络和应用模型。更值得记的地方在于,全球软件大升级从玩笑变成了工程问题。

早期互联网的类比很具体。Sam说,看到一个8岁或10岁的孩子用这些工具做出完整3D游戏,想法还很疯,成年人不太会那么想。这代人对技术能力的预期从一开始就高,他们不会因为10分钟做出一个东西而震惊。另一边,OpenAI内部有个段子:一次SEV,Codex宕机,大家突然忘了怎么编码。依赖程度到了这个地步,已经不用再解释。

Cyber Blue部分,他说第一天比预想好,但明确拒绝宣布胜利。他不认为PHP这事已经清楚,也假设坏事情会发生。有安全专家提到,真正的问题是威胁模型的假设还成不成立。如果AI能发现需要新物理理解的硬件漏洞,原来那套推理就会松动。沙箱也是同一类问题。主持人说,和OpenAI及类似公司内部很懂的人聊,会听到一种悲观:沙箱未必关得住超级AI。Sam先强调,现在能做得比现状好得多,应该把更好的安全模型当作重点。然后把问题推到极端:面对一个比最强安全研究员聪明一百万倍的理论AI,你愿不愿意信任那个沙箱。这个问法比AI会不会越狱更具体。

数学周末是另一个细节。素材里写,OpenAI内部做过用千万美元级算力证明复杂数学问题的实验,举到Navier-Stokes。Sam谈那个周末时有兴奋,也有怅然。智能体蜂群则给出整期最容易被截取的一句:他更希望一万亿个略超人类智能的AI加入社会,而不是一个智商一万亿的AI。这个偏好和算力、成本、个人智能体放在一起看,才完整。

算力短缺部分落到自研芯片、可自我复制的数据中心,以及每吉瓦成本为什么应该下降。节目也聊到AI为什么带来通缩,和算力成本、token定价是同一条线。有网友在回复里说,每吉瓦成本这段最想听。数据中心能不能便宜建出来、持续供上电,会直接决定后面能跑多少算力。个人智能体部分,他提到传统网页表单和移动应用会被个人代理替代,很多围绕表单存在的假工作会消失。快问快答里,token被说成假单位,这个收尾很符合播客的酒馆气质。

原片在YouTube,时长52分45秒:https://www.youtube.com/watch?v=iMsUcCYNKqY

Cheeky Pint的Substack有完整转录:https://cheekypint.substack.com/p/why-sam-altman-is-against-a-single

发布时间: 2026-10-30 22:40