微软CEO的提醒：模型会更强，但不会自动变可信

20VC 这期请到微软 CEO Satya Nadella。Harry Stebbings 18 岁在伦敦卧室开始做播客，这次把节目发到了 Satya 对面。微软市值从 3000 亿美元走到 3.9 万亿美元，这个数字在推文里被反复提起。原推链接：https://x.com/HarryStebbings/status/2114791168932229414

视频里 Satya 说得很直接。模型越来越强。他原本假设对齐会随 scaling 自然出现，但看起来没有。想继续用这些复杂模型，最好的姿态是把它们放进信任架构。如果代理能力更强，却未必更对齐，就需要一套模型提供方之外、可以依赖的信任系统。

这句话不复杂，难的是落地。信任系统不能长在模型自己身上。有网友在回复里写，信任层不能来自你不完全信任的东西，只能在模型外面。另一个网友问，谁审计审计者，另一个模型？还有人讽刺，信任系统仍是一个人早上 7 点看日志喝咖啡。

节目议程里还有开放模型对闭源模型、是否信任前沿模型提供方、公司为什么要拥有自己的 intelligence、从芯片到模型的垂直整合。开放闭源常被简化成能力之争。信任成本没有消失，只是换人承担。开源给你可检查性，闭源给你便利和规模。审计、权限、回滚、签核，最后都得有人兜。公司 own intelligence 落到操作层，是把数据、权限、审计、回滚、签核握在手里。每家都训练基础模型不现实。

有网友 Ryu1TS 给了更具体的做法：模型改不了的检查，OS 级打不开的文件，拒绝坏提交的 hook，发送前人工签核。写在指令里的东西，模型能推理绕过。这个细节比“信任架构”四个字有用。在银行或保险公司，这套系统会落到批准新供应商的风险委员会。流程不快。

模型能力曲线很亮。信任系统的曲线很土。推理卡很贵。更贵的是那个愿意早上 7 点看日志的人。

节目链接：Spotify https://open.spotify.com/episode/3OfkdIG5IkU3kGOJuMUmAF ，YouTube https://youtu.be/24XUcWhqY_4 ，Apple Podcasts https://podcasts.apple.com/us/podcast/20vc-satya-nadella-on-open-vs-closed-models-who-wins/id958230465?i=1000798128221 。引用推文：https://x.com/HarryStebbings/status/2114734401674228113