Wink Pings

训练 LoRA 时,能看到它学了什么、漏了什么

Fizgig v9.3.0 把 LoRA 训练过程做成热力图,开源,附 GitHub 和文档。作者还回答了 Qwen Image 2.1 Edit LoRA 的预设选择。

训练 LoRA 的时候,多数人只能盯 loss 曲线。它降了,但模型到底学会了触发词、学了背景、还是把不该学的东西也吃进去,看不出来。

Fizgig 的 v9.3.0 加了一组训练热力图。发帖人 shootthesound 把代码和文档都放在 GitHub 上,图里能看到训练中的 LoRA 对哪些区域有反应、哪些还没学到,以及哪里出现泄漏。

LoRA 训练热力图

视频里是动态过程:

发帖人说,这次训练开了 DOP,配合 Fizgig 的 LoRA Isolation,更容易看出学习过程受了什么影响。触发词跟踪在 DOP 下提升明显。当天构建的编译速度也变快,早期训练大约快了 800%。

这功能解决的是训练黑箱。LoRA 本来是用少量图片给底模打补丁,角色、风格、概念都能训。补丁小了,便宜;但训练时哪里有效、哪里过拟合,经常靠猜。热力图把这些猜测变成可看的图。

评论区有人问 Qwen Image 2.1 的 I2I Edit LoRA 怎么设。发帖人的建议是:编辑 LoRA 用 Edit 预设,不要用 Style。Style 训的是普通文生图 LoRA,Edit 预设训的是同一张照片的前后配对。可以先从 Qwen 2.1 Edit 开始,rank 8,自适应学习率。这个预设基于 40 对编辑图,峰值大约在 12 个 epoch 里的第 9 个。如果改动比调色、质感更大,比如增删或改变画面里的东西,再试 Qwen 2.1 Edit Strong,rank 16。

不过提问的人随后说,他手里没有前后配对图,只有一些想让 Qwen 学会的参考图。素材里没有发帖人的后续回答。这个细节挺关键:Edit 预设的前提是成对数据,没有配对图,别直接套参数。

GitHub 发布页:
https://github.com/shootthesound/Fizgig/releases/tag/v9.3.0

训练图文档:
https://github.com/shootthesound/Fizgig/blob/master/docs/TRAINING_MAPS.md

发布时间: 2026-11-09 23:01