【質問】LoRAの差分抽出ってこれでええんか？

2023年5月15日

658: 今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ ffba-pr1B) 2023/05/14(日) 07:16:36.22 ID:q7dEUF/90

はぇ～flatニキやっぱすげぇ要するに下の感じでええんか？ここではしいたけ目を例にあげる

①適当に1girlで出した女の子の画像Aを作る
②その画像Aにペイントソフトでしいたけを描き込むこれが画像B
③画像Aと画像Bのコピー機Loraを1つずつ作る
④出来たコピー機Lora AとBをマージして差分抽出したらしいたけ目Loraが完成

あってるか？普通に間違ってるかもしれんから鵜呑みにせんでな…

引用元：https://fate.5ch.net/test/read.cgi/liveuranus/1683921260/

676: 今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ｱｳｱｳｳｰ Sa67-7USU) 2023/05/14(日) 08:52:07.35 ID:3152eeiCa

>>658
4番がマージせんでもLORA同士で差分取れるって話やないか？

678: 今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ ff91-ZkZz) 2023/05/14(日) 08:55:50.60 ID:kkz++4fl0

>>676
せやね、とはいえマージと言えばマージやねんな
モデルにマージせんでもLoRA同士で差分抽出できるようになったわけやな

④の部分の具体的なやり方はKohyaニキのReadMe参照や
https://github.com/kohya-ss/sd-scripts/blob/main/docs/train_network_README-ja.md
複数のrankが異なる～ってあたりやな

685: 今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ｱｳｱｳｳｰ Sa67-7USU) 2023/05/14(日) 09:15:29.51 ID:2hjKu5ZYa

>>678
すまん見てもわからなかったんやけど
svd_merge_lora.pyでマージしたら差分が取れるってことなんか？

692: 今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ ff91-ZkZz) 2023/05/14(日) 09:23:34.63 ID:kkz++4fl0

>>685
せやねー　それでいまflatニキとかKohyaニキがいろいろ揉んでるみたいや
こんな感じで投げればええねんたぶん
python networks\svd_merge_lora.py –save_to 【完成品のLoRA名.safetensor】 –models 【正しいほうのLoRA】【ダメな方のLoRA】 –ratios 1.0 -1.0 –new_rank 【マージ後のdim rank（32 とか）】 –device cuda

693: 今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ｱｳｱｳｳｰ Sa67-7USU) 2023/05/14(日) 09:26:13.38 ID:2hjKu5ZYa

>>692
なるほどratioをマイナスにして引き算するんか！目から鱗やで！
サンガツや！！

701: 今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ 837b-UcHJ) 2023/05/14(日) 09:59:47.70 ID:spQ3jc4V0

難しい話は判らないです