纳德拉：我曾以为AI对齐会自然涌现，我错了

在20VC播客最新一期，微软CEO萨提亚·纳德拉被问到过去12个月改变最大的想法。他的回答值得反复听。

主持人Harry Stebbings在推文中回忆，自己18岁在伦敦卧室创办这个播客时一无所有，不认识科技圈任何人。这次采访是他梦想已久的事。纳德拉把微软市值从3000亿美元带到3.9万亿美元，在主持人眼里，他是这个时代最伟大的CEO之一。

纳德拉的回答提到了几个名字：Dario、Ilya、Sam、Greg和Elon。他说这些人才是缩放定律真正的信徒，而他自己在2018、2019年也相信这个。接着他承认：“我以前总认为对齐问题会自己冒出来，现在我不再相信了。我觉得对齐可能是个更难、更不一样的问题。”

这里需要给不熟悉AI的读者补点背景。

缩放定律（scaling laws）是说模型性能会随参数、数据、算力的规模增加而可预测地提升。过去几年AI行业的高速发展，很多都建立在这个信念上。Dario（Anthropic CEO）、Ilya（OpenAI首席科学家）、Sam（OpenAI CEO）、Greg（OpenAI总裁）和Elon（马斯克），都是这个信念早期的代表人物。

对齐（alignment）研究的是怎么让AI系统的目标符合人类意图。纳德拉曾经相信，模型大到一定程度，对齐会自己解决，像是能力提升的副产品。现在他公开说，不这么想了。

视频是纳德拉亲口说出这段转变。他穿着黑色外套，坐在木墙前，背景一盆绿植。

有网友注意到，纳德拉列出的缩放定律信徒名单里没有Google的人。另一个人评论说，认为缩放定律会自动解决对齐，是当年很普遍的陷阱，很高兴他现在直言不讳。

纳德拉的转变值得关注，因为他不只是AI实验室的研究员，而是手握大量算力和资金的大型科技公司CEO。他对对齐的判断，直接影响微软在AI安全上的投入。如果连他都觉得对齐不会自然涌现，这个问题的优先级可能比很多人想象的要高。

完整访谈里，纳德拉还聊了开放 vs 封闭模型、为什么每家公司都需要拥有自己的智能、垂直整合等话题。

YouTube | Apple Podcasts