Fizgig 更新:MOSS LoRA 训练从 49 分钟压到 20 分钟,显存也砍了一半
Fizgig 作者在 r/StableDiffusion 公布了新版本数据:RTX 5090 上训 MOSS-Image LoRA,70 epochs 从 49 分钟降到约 20 分钟,Muon 计算快 12 倍,结果不变。PyTorch 2.15 加持下显存占用也大幅下降。
Fizgig 的作者 shootthesound 在 r/StableDiffusion 发帖,说这个训练工具在 MOSS 上的提速很明显。
具体数字:RTX 5090 上训一个 MOSS-Image LoRA,batch 1,94 张图,Muon 优化器,70 epochs,原来要 49 分钟,现在大约 20 分钟。显存占用降了不少,出图 likeness 没变。其他模型也有提速,MOSS 最明显。批量训练现在完整支持。

改动主要来自两块。
PyTorch 升到 2.15。 开梯度检查点后显存省得更多,batch 1 下 Krea 2 从 22.9 GB 降到 14.9 GB,MOSS-Image 在 batch 3 下从 21.7 GB 降到 7.1 GB。
Muon 优化器变快了。 单步计算改成同时处理 LoRA 的多个矩阵,不再一个一个来,Muon 计算快了 12 倍,结果完全一致。作者说 batch 1 的主要提速就来自这里。有人问提速原因,他回答是 torch 升级加上重写了 muon 优化器里的数学。
作者补了一句:想拿到最大提速,用预设启动训练,新的优化器设置会自动带上。
评论区有人吐槽他标题里的 "has has",作者自嘲早上语法掉线。还有人说自己刚花一整天训完 MOSS LoRA,更新就来了。一位用户提到自己从 AI Toolkit 换到 OneTrainer,又换到 Fizgig,理由是效率和开发节奏,说 Fizgig 快、活跃、更新勤。另一个人问 RTX 4050 6GB 加 16GB DDR5 能不能训角色,需不需要模型和文本编码器的完整 BF16 权重,会不会自动 offload 显存,帖子里没看到回答。
仓库在 GitHub:shootthesound/Fizgig。
发布时间: 2026-11-08 22:36