なぜ学習阻害ツールを作らねばならないのかという話
最初に書いておく。こういう記事は、出さないほうがいい。知っている。
反AI教団「何を企んでるのかわからない。自分がAI推進派だったら余計なことをするなと思う。無能なのでは?」
的な感じで、影でごちゃごちゃ言われているらしい。本当に頭が悪いのではないだろうか。まず、人をそんなつまらん括りでカテゴライズするな。
君等のようにSNSに汚染されてエコーチェンバーで脳が溶けている人間と一緒にするな。
頭の悪い人達にはわからないだろうから別に構わないのだけれど、日本語を読める人のために一応書いておこうと思う。
今のパワーバランスが許せん
誰もが自由に暴れまわれる状況が続いてしまうと、技術は規制によって殺される。だから、迂闊な学習行為がリスクになるという状況を作るために、クリエイターの自衛手段を作っているわけです。
猿に凶器を与えてはならないし、それ自体を扱うことに危険性が伴うと教えなければならない。
どんなものであれAIは道具でしかない。使う側の問題です。
その使う側があまりにも好き勝手できてしまうのが現状の問題なわけです。
デクラッターで外されてしまうようなウォーターマークやノイズでも、まずデクラッターを噛ませるという処理を挟む必要が出る時点で手間は増える。この時点で、ただ画像を突っ込んでタグで紐づけて過学習させるくらいしかできない人間には障壁になる。
ウォーターマークを付けずに学習阻害ノイズをつけていれば、毒入りの絵を拾い食いしたモデルは腹を壊して死ぬ。そもそもこれがNightshadeやGlazeの目的である。i2iの阻害ではない。それは「学習」ではない。
こうした「毒入り」の画像を一定数の人がネットに上げるのが当たり前になれば、個人で学習モデルを作っている人間は素材選びでリスクを感じるようになる。これはGlazeやNightshadeと同じ思想です。
既に野に放たれているモデル、そして多くの「学習データ予備軍」については、もはやどうしようもない。であれば、これからのためにできる最善のことを行おうというのが筋であるはずです。
なぜしないのか?なんで他人任せなんだ、お前らは。それでクリエイター名乗ってんのか。バカか。やめちまえ。
ぼくは技術の衰退を望まない。だから言っている。作ってやるから使え。
ぼくはクリエイターであると同時にエンジニアなので。
っていうお気持ち表明をするとまた使おうと思う人が減っちゃうんだぜ。
作者と作品は切り分けるべきってのは、どの分野でも同じですね。
それはそうと、GlazeとNightshadeのコードを参考にして「GlazeやNightshadeとは違い」AIを使わずに、似たようなノイズを付与する機能を追加しました。「AIモデルを使わないので」本家ほど効果は得られないかも知れませんが、GPUがなくても、CPUへの高負荷がなくても動くようになっています。
ビルド通して試用版を出すので、待ってくれてる人はもうちょっとだけ待ってくださいね。



コメント
4パワーバランスがおかしいから是正したいって感覚、すごいよくわかるし、個人的にはごく常識的な倫理観だと思います。
実際、止められないとはいえフェアじゃない状況が続くのは健全な開発推進ではないし、それが行き過ぎれば仰る通り規制が強くなることも考えられますし。
一つ問題があるとすれば、私は自分で絵を描くことがほぼないので、せっかくのツールを使う機会に恵まれないことですね。
あーでも、AI生成したものに適用して蒸留抑止みたいには使えるのか。
ノイズフィルタ自体に創作的な意向を取り入れられれば、AIで作ったものの仕上げに使ってもヨシとなるので、製品版はその方向で調整したいと思ってます。
何度か書いてますが、防衛目的というネガティブな理由で使うツールなんて、面白くないですからね。
私は心情的にどうしても現状のAIが取り巻く環境を受け入れられない部分があり、おそらく反AIにカテゴライズされるような人間だと思うのですが、個人的にかぼすさんの記事は勉強になる部分も多く定期的に読ませていただいており、今回の学習阻害ツールに関しても「反AI絵描きは学習阻害ツールを求める癖に金を払わない」という風潮が少しでもなくなるように、使わせていただきたいなと思います。
ありがとうございます。
ぼくも生成AI、特にイラスト系と音声に関しては非常に思うところがあります。ぼくはモデルも作るし絵も描かせますけれども。
特定のモデルやLoRA技術の大衆化については技術を正しく発展させるための障害と思っていて、心情的に許せるものではないです。なので、m-Aliceではなくとも、多くの人が毒入りの絵を紛れ込ませることで安易な学習を阻止できる社会にしたいのです。
試用版でもいいので、リリースできたら是非使ってみてください。