DeepSpeed 的下一场演讲，没打算只讲 ZeRO

PyTorch Day Japan 2026 把 DeepSpeed 的场次放在 12 月 10 日 17:55 到 18:15，2F Hall。讲者是 DeepSpeed 的 Masahiro Tanaka，题目为 DeepSpeed at the Frontier: Community-Driven Optimizations for State-of-the-Art Training Performance。

DeepSpeed 是建在 PyTorch 上的分布式训练框架，GitHub 星标超过 43,000，PyPI 月下载量超过 100 万。它最早被大量讨论，靠的是 ZeRO。X 用户 The SI Maximalist 在回复里把 ZeRO 说成给重复的优化器状态发驱逐通知，腾出显存给模型。这个说法粗糙，但抓住了重点：先把显存占用压下去。

这次演讲要讲的范围更大。ZeRO 之外，DeepSpeed 补了 AutoEP、AutoSP、AutoTP，分别对应专家并行、序列并行、张量并行，能和 ZeRO 组合，也能用于不少 Hugging Face 模型。AutoEP 面向大规模 MoE 训练，带来优化过的 kernel 和通信。DeepCompile 则用 torch.compile 在编译器层优化通信调度和内存 offload。

这些工作有一个共同点：不少优化来自不同组织的研究者和工程师。DeepSpeed 的开放开发把实验性、研究性功能也吸进来。框架大战里，发布会式的新东西容易抢眼。难的是让已有模型换个配置就跑快，还别把训练代码全翻一遍。DeepSpeed 说，在前沿模型上，性能可以和其他先进框架竞争，改动集中在配置。这个说法值得到场听 benchmark 和细节。

活动在东京，12 月 10 日。11 月 11 日前注册标准票 5,000 日元，之后 8,000 日元，差价 3,000 日元。学术票保持 5,000 日元。场次会录制，两周内放到 PyTorch Conference 的 YouTube 频道。

注册和日程：PyTorch Day Japan 2026，完整日程。DeepSpeed 场次详情：链接。

如果只记一件事：DeepSpeed 的省显存标签还在，但这次演讲的重点落在社区贡献和前沿训练性能。ZeRO 是入口，后面还有并行组合、编译器优化和通信调度。对做训练的人来说，这些细节比一句“支持大规模模型”有实际用处。