橘かぼす 橘かぼす
見出し画像

電子透かしサービスの構造的リスクについて

これは"どのサービスが云々"ということではなく、可能性の話です。


画像生成AIに自分の作品を利用されたくないがために、何らかの措置を入れたい!と願うクリエイターがいらっしゃるとしますね。そしてあるところに、これを提供するサービスが現れたとします。

やったー!
で、その方法は?ちょっと冷静に考えてみてほしいんですよね。


それ、本当に信用できます?

画像生成AIへの学習を困難にする電子透かし
それは「画像生成AIの学習素材として作品を用いて検証をしなければ、有効性を保証できない」もののはずです。

そして、その画像生成AIの学習に打撃を与える電子透かしとは……生成AIによって与えられるノイズです。


このシステムの構造からぼくが見透かしているもの

これねぇ……すべてのサービスがそうとは断言できないんですけど……
「詐欺より悪質なシステムですよ」

なーんでか。これ、こういう構造に見えます

  1. サイトに画像をアップする(=学習データの提供

  2. 電子透かしを付与(=電子透かしと元素材の二重の教師データ

  3. SNSへの投稿が可能!(=アカウント紐づけてタグ化

仮説ですよ?仮説。

でもね、多分これ、やってるサイトあると思います。
そういったサイトに興味がないんで探していないんですけど、多分規約に書いてあると思います。

「提供された画像は研究・改善目的に使用することがあります」

どっかの利用規約

マッチポンプですよ。これ。

  • 電子透かしを提供

  • 電子透かしを突破する技術を放出

  • その対策のための電子透かしを作りました!

  • その電子透かしを……(以下無限ループ)

利用者の承諾を得て画像生成AIと電子透かし、それぞれの学習データを収集している。ユーザーのアカウント情報という明確なタグ付けデータも手に入る。画像生成AIモデルとLoRAは、団体の名義を使わずに出せば良い。ぼくにはそういうシステムにしか見えない。


構造を見抜け

世の中、金を稼げるやつってのは「頭が良くてモラルがない奴」です。

善意のガワで人に安心を提供しておきながら、その安心を揺らがせる存在。
そういう奴が、勝つんですよ。

で、このサービスは完全にそのパターン。でもね、本当にクリエイターのためにこれを提供したい!と思ったなら、それが可能な方法をぼくは知っています。


真にクリエイターが守られる電子透かし

  • クラウドを使用しないこと

  • ネットに接続しない、ローカル環境オンリーでのサービス

  • SNSなどの紐づけやアカウント登録を必要としない

  • 買い切り提供

これで十分です。


こう考えよう

クラウドや該当サービスのサーバーにデータを提供するということは、
その時点で「それを保持する理由」があるはずです。

このサービスはそもそもオンラインである必要性がない。
だって、ねぇ?Electron等でクロスプラットフォームに対応したアプリの提供は可能です。

これでPCに対してローカル環境で通信せずに安全に作品に電子透かしを付与させる技術は提供できる。

アプリであるなら、インストールはAppleやGoogleのストアにおいて、買い切りでサービス提供をさせることもできる。
電子透かしの付与を行うプログラムが、それほど重いものであるとは考えられません。

なら、なぜ…?
これ、やってんなぁ?


ぼくにはこう見える

クリエイターの善意や恐怖心を利用し、最も有益なAI学習素材を搾取する構造。
それを、クリエイターを“守るサービス”と称して提供している可能性が高い。

サーバーの運用、サービス提供のための資金提供を求めるクラファンだぁ?
ツールを配布すればいいじゃねぇか。

こう言っちゃ何だが

クリエイター志望は極論、大半が、ぼくの「お仲間」だと思っています。
それは「発達障害」

世界との接点を持てず、それを作品という形で表に出すしか無い。この作品を接点として人と繋がることができる。そうなった成功者ははじめて、他者から人間性を認められる。

これ系のサービスを成功者は必要としません。必要とするのは、歪んだプライドを持つ世間知らずだ。

これは弱者を食い物にするサービスであるとしか、ぼくは見ていない。

必ずしもぼくの仮説通りとは限らないが、そういう事もあり得るのだということを肝に銘じて欲しい。

おわり。

いいなと思ったら応援しよう!

ピックアップされています

画像生成AI駄文

  • 28本

めんどくせー話

  • 25本

コメント

6
橘かぼす
橘かぼす

コメントありがとうございます。

> 本当に学習させない方法ってあるのかしら

ほぼ絵が見えてないような、ガッチガチのウォーターマークじゃないと無理だと思います。なんのためにそれ出すの?という感じですが。電子透かしだとスクショすれば突破できてしまうと思いますよ

ねこみみ
ねこみみ

んー、ちょっと長い目で見たら、モラルがない奴が「勝ち残る」とは思えないですけどね。
まあ、一時的には大儲けとかするかもですが。

橘かぼす
橘かぼす

ねこみみさん
コメントありがとうございます。そうですね。「勝ち残る」のではないのです。スタートダッシュにおいて勝つ。
なので、"悪意があるなら、スタートダッシュから潰してやりたいなぁ"という悪意によって行動しようとしております。

ねこみみ
ねこみみ

あー、なるほど!
その気持ちはちょっとわかります。

ログイン または 会員登録 するとコメントできます。
電子透かしサービスの構造的リスクについて|橘かぼす
word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word

mmMwWLliI0fiflO&1
mmMwWLliI0fiflO&1
mmMwWLliI0fiflO&1
mmMwWLliI0fiflO&1
mmMwWLliI0fiflO&1
mmMwWLliI0fiflO&1
mmMwWLliI0fiflO&1