LoRAの学習に正則化画像は設定したほうが良い

work4ai

LoRAの学習に正則化画像は設定したほうが良い
from : https://www.reddit.com/r/StableDiffusion/comments/11qkbfy/kohyass_lora_finally_improved_the_final_output/Kohya-ss LoRA, finally improved the final output!
	正則化画像なしだと80~85%のらしさまでしか出せなかった
	改善方法
		https://github.com/aitrepreneur/REGULARIZATION-IMAGES-SD/tree/main/personの画像を正規化画像とする
			たぶん男性用
		 \regularization\1_person というフォルダに入れる
			 1 はリピート数  person はクラス
			フォルダ構成は学習画像と同じ
				cf. Kohya's GUIでLoRAの学習をする#e80f4a
		設定の正則化画像のパスを上のフォルダにして学習
	体感95%まで上がった


LoRA
正則化

Links
Kohya's GUIでLoRAの学習をする
正則化
Stable Diffusionモデルのファインチューニングにおいての正則化

What exactly do regularization images do?より

クラス保存(class preservation)？と過学習の2つの問題を解決するのに役立つ
LoRA

正則化画像
正則化画像データセット
正則化画像は学習させるカテゴリーを教えるだけなので質は問われない

Stable Diffusionでcarやcat等単純なプロンプトを入れて大量に生成させるのが主流？

ダウンロードして使う

https://huggingface.co/datasets/ProGamerGov/StableDiffusion-v1-5-Regularization-ImagesStableDiffusion-v1-5-Regularization-Images

Kohya's GUIでLoRAの学習をする
Stable Diffusion web UI のすべて
そもそもStable Diffusion web UIとは？

Stable Diffusionをブラウザ上のGUIで操作できるようにした便利ツール

一番最初に開発されたため、多くの拡張機能がこのGUIで使えるように作られている

リクエスト(TODO)→⚒️

⚒️Colab版
Kasucast #13 - Stable Diffusion: How to train LoRA for Style メモ
LoRA学習でのタグ付けTips

LoRA
追加学習をやってみよう
AI タイムライン
🖼️ : 画像 / ♫ : 音楽・音声 / 📄 : 言語モデル

table:2023

2023/5/10 📄 PaLM 2

2023/5/9 🖼️♫📄 ImageBind

2023/4/29 🖼️ DeepFloyd IF
ComfyUI ノードレシピ集
C-LoRA
(IA)^3
オーグメンテーション
機械学習やデータ処理において、元のデータセットに対して、ランダムな変換や加工を施すことでデータを拡張する手法

画像データの場合、ランダムに拡大縮小、回転、反転、明るさの変更などを施し、学習時により汎用性の高いモデルを構築することができる

過学習の防止や汎化性能の向上、データセットの偏りの緩和などに効果的

https://www.reddit.com/r/StableDiffusion/comments/12b2xqq/python_script_to_increase_data_amount_for/Python script to increase Data Amount for Kohya-LoRA-Finetuner and etc
video loopback for webui
LoRAの引き算
Stanford Alpacaの日本語LoRA
手元で動く軽量の大規模言語モデルを日本語でファインチューニングしてみました(Alpaca-LoRA)

スタンフォード大学がファインチューニングに使用したデータをChatGPTのAPIで日本語訳したものを使用

日本語Alpacaデータを用いてJapanese-Alapaca-LoRAを作ったので公開します【デモページあり】
alpaca-lora
https://github.com/tloen/alpaca-lora

Finetuning InstructLLaMA on consumer hardware

AlpacaのLoRA!?

demo:https://huggingface.co/spaces/tloen/alpaca-lora
Civitai
LoCon
sd-webui-supermerger
雑談 2023年2月
Pixai.art
https://pixai.art

pixai

AIイラスト投稿サイト＆生成サービス

生成するときに

ControlNet
DiffusionによるText2Imageの系譜と生成画像が動き出すまで
2022/12 第3週 weekly AI news
CharTurnerLoRA
Kohya S.
LoRA Explained by ChatGPT
https://rentry.org/LoRA-Explained-by-ChatGPT

LoRA
Composable LoRA
https://github.com/opparco/stable-diffusion-webui-composable-lora

stable-diffusion-webui-two-shotでチャンクごとにLoraを設定するStable Diffusion web UI拡張機能
Pivotal Tuning
Paper : https://arxiv.org/abs/2106.05744

Using LoRA for Efficient Stable Diffusion Fine-Tuning

Textual InversionとLoRAを組み合わせようとする手法

fine-tuning

正則化
Nerfbusters