『生成AI不使用』を、どうやって客観的な資料で保証するか問題。（イラストレーター編）
2022年から毎年、エンジニアのあるふさんが主催されている『生成AI Advent Calender』に、その年生成AIについて考えたことをメモしています。今年も季節になったので、エントリーしてきました。
なお、自分は一介のイラストレーターです。
性質上、本アドベントカレンダーは毎年、生成AIの開発者の方や、利用者側の方の記事が多めですね。自分のような、かかわりが間接的な人間の参加は珍しいかも。
生成AIは大きな転換点であることはまちがいがないので、毎年何を考えて、自分の考えはどう変わって、何が起こって、何が出来るようになって、何が問題としてそのときあったのか、を振り返る必要があるなあと考えて毎年記事を書いています。
なお、私は生成AIに対しては是々非々の立場で、賛成反対それ以外、どの立場であっても、お互いを尊重した対話ができるようになるといいな、と考えています。
今年に入ってからの身の回りの変化
こんな感じの事が増えました。
指示書に生成画像が入っていることがだいぶ増えた
『生成AI不使用』が契約書の条項にある案件がちらほらと出てきた
1）は、どうも発注側も意識しないまま混入していることがあるとのこと。これをご覧の皆様も『タイムライン流れてきたいい感じの絵をいいねしたら、生成画像だった』という体験、あるあるだと思います。ストックフォトサイトでの混入もよく耳にします。
モデル、使い手の技術ともに向上していて、今や一般の人には見分けがつかないものも増えました。私たち専業の絵描きでも、いわゆるマスピ絵（一部の生成AIモデル特有の絵柄がこう呼ばれている）やchatGPTの絵柄でもない限り、手描きと見間違う事例は多いと思います。
そして2）、もちろん契約書に生成AI不使用が掲げられていればそうするわけですが、万一自分が利用を疑われた際に、それを『客観的に』証明しないといけないのです。利用を疑われて最終的に行き着く場所は裁判ですが、その時には客観的な証拠で自分の潔白を証明しないといけない。
それって、かなり難しいです。
きっと皆様もご覧になった事があると思いますが。
様々な生成AI利用の濡れ衣があちこちで立ち上がったり、Blueskyなどでは、個人が作成した『生成AI利用者を非表示にするモデレーションリスト』に、生成AIを使っていない人が登録されていることが頻繁にあります（私もよく入れられている。公開している絵は全て手描きです）。
でも、通常のやり取りでその疑惑が解消されることは、多分この記事をご覧になっている方はご存知の通り、残念ながら非常に少ないです。
PSDなどの生データやタイムラプスの提出すら、信用に値しないと一蹴される様子をご覧になった方も多いと思います（それがたとえ、本当に手描きしたものであっても）。
その上、契約書上に生成AI不使用が明記されていた場合、そのような疑惑が立ち上がり、万一自分に非があるとなった場合に、それによって生じた損害の弁済の義務が生じる可能性があります。それは正直、個人で負える金額ではありません。
さらに、手元の作画は手描きであると証明できても、今は、使っている素材にも生成AI利用素材の混入の可能性があり。前述の通り、それを目視で見分けることは難しくなってきています。
じゃあどうしたらいいんだろう。
というわけで、契約上、生成AIの不使用が求められるのであれば、使わないのはもちろんのこと、それを客観的に、極力負担のちいさい形で保証する必要があるな、と、今年はそのための環境を整えていました。
作画については記録のできるツールが必要にはなりますが、資料や素材については、普段から資料などのライセンス管理をされている方であれば、ちょっとしたところを気をつけていれば、案外シンプルに管理ができそうです。
仕事の作画の指定画像に、生成画像が入っていた。どうしたらいい？
先にも書きましたが、割と身の回りで、こういう話を聞くようになってきました。
周りの同業の方には生成AIが苦手、という方も多いです。そういう方にそれが届いてしまったら、ものすごくいやだ、と思う気持ちはとてもわかります。
ただ、先に書いたとおり、生成AI画像を見慣れていて、見分ける練習をしていないと、そもそも一般の方には見分けがつかなくなってきており、故意ではない事がほとんどのようです。
Hive等の生成AI画像を調べるツールもまだ完璧とはいえず、かつ、見分けには業務外の、追加のコストと時間が発生します。
実際に試してみると、自分で描いた絵が生成AI製と判定されたり、その逆もちょくちょく起こります。
発注側に『生成AI画像は使わないでくれ！』というのは、ちょっと難しそうですね。
反面、『指定が生成AIでも別にいいけど、生成AI画像で指示があると、情報量が多すぎてどこを参考にしたらいいかわからない』という、実務上の悩みも耳にします。これもとてもわかります。
実はこれ、似た事例が生成AIと関係なくありまして、それと同じやり方で対応することができそうです。それぞれまとめていきますね。
指示書に生成画像が入っていてほしくない場合
これは、お互いに不利益も生じうるのですが…。
受注のやり取りの際、条件のやり取りをしている時に、その旨をお伝えするか、テキストでの指示のほうが得意、という事とか、丸棒のアタリなど簡単な指示で良い旨を伝えたほうが良いと思います（画像での指定が入らないので、生成画像も入ることがない）。
逆に私は、指定に生成画像が入ってても大丈夫ですよ、という旨を最初にお伝えしています。これ、発注側の萎縮や発注控えにもつながる話なので、そこは絵描き側から歩み寄ったほうがいいなと思って。下に書いたように、情報量の高い生成画像が入っていても、普通に資料として読み解く方法もあります。
生成画像のどこを読み取ればいいかわからない場合
生成画像、情報量が多くて、『これがイメージに近いです』と渡された場合に、どこを参照したらいいかわからない…という悩みもよく聞きます。
これについては、既存キャラなどを指して『イメージはこのキャラです』という指定だった場合と、同じようなやり方で対応しています。
キャラクタやイラストのコンセプトを箇条書きにする。＞コンセプトについては先方の発注文にある事が多い。ない場合は確認。
参照画像の特徴などを箇条書きにする
両者の間で齟齬がある部分について、先方に確認を取る。＞全体の雰囲気を参照したいのか、特定の要素だけなのかも聞いたほうがいい。
自分が絵を描くときに困るのは、要素のコンフリクトなので、そこを解消しておくと、情報量の多い参照画像でも困ることはないと思います。
自分が実際に体験した（特定できないようボカシ入れてます）事例としては、
キャラ指定はクールビューティー知的お兄さん
でも参照画像はなんかど派手トンチキな衣装を着ていて、それがすごい目立つ
どこを重視したらいいのか確認したところ、衣装や外見ではなく、参照画像のキャラのキャラ設定を参照してほしい、ということで、そのように対応しました（『イメージはこのキャラ』という指定があっても、それが外見を示しているとは限らない）。
追記：自分のところでは、今のところ生成画像の指示画像で困った事例はないです。例示は既存キャラクターをイメージが近いとして提示されたときの話です。
自分の絵をどう保証したらいい？問題の切り分け
生成AIが自分の作成した絵に含まれてしまう可能性、実のところ誰にでもあります。
どうやって、生成AI由来の画像の混入を防ぎ、自分の不使用を客観的に保証するか？ざっくり、作業の流れとポイントをまとめてみました。
大きく、下の画像の１），２）でわけて考えたら良さそうです。
１）資料や素材の収集と取り扱い
資料や素材（ブラシやテクスチャを含む）をストックフォトや配布・購入素材などで賄っている場合は、ここに生成AIが入ってくる可能性が必ず生じます。
また、自分で撮影した写真でも、今は写真の加工ツールに生成AIのサポートを受けたものが含まれています（デジタルズームのアップスケールなど）。後者をフォトバッシュの素材としてイラストに張り込んだ場合は、意図せず生成AIを作画に利用してしまうことになります。
対応としては、
a）資料・素材・撮影写真から厳密に生成画像を排除する。
b）作画用のキャンバスには素材を貼り込まないようにする。
c）資料は参照にとどめ、トレスや似せないようにする。
このあたりの組み合わせで対応をしていくことになります。
＊すべてをやる必要はない。
必要な対応の洗い出し
チャート用意してみました。
自分がどういう素材の扱いをするのか、案件ごとに都度洗い出しをします。
a）資料・撮影写真から厳密に生成画像を排除する。
基本的には、
極力自前で用意する。＞デジタルズームが入らない設定で自分で撮影、手描きで素材を作るなど。必要があれば、カメラ・補正ツール側で、写真撮影から補正までの生成AIの使用・不使用を記録することが出来る（pixel10 pro、Adobe Lightroomなど）。
生成AIが介入しない素材を使う。＞3Dプリミティブなどの組み合わせ、版元の明確な素体フィギュアなど
タイムスタンプが古い素材・資料を使う＞十分な品質の生成AIが登場する前（2016年以前とか）の素材であれば、生成画像が混入しえない。
b）作画用のキャンバスには素材を貼り込まないようにする。
後述しますが、自分の手元での作業での生成AI不使用を保証するために、ファイルの出し入れや操作を作業ファイルに記録するツールを利用するので、手持ちの素材に生成画像が含まれているかどうかわからない場合は、その画像は納品に使うキャンバスに画像を貼り込まないようにします。
割と、作画時の資料をキャンバスに張り込む方もおられると思うのですが、その際に生成画像が混じっていると、そのログが残ってしまうためです。資料や素材からの排除が確実でない場合は、キャンバスに素材や画像を貼り込まないようにします。
c）資料は参照にとどめ、トレスや似せないようにする。
これは著作権や肖像権、パブリシティ権など、他の方の権利への配慮にもつながりますが、資料を見て描く時は寄せすぎないようにします（資料の作品としての本質だったり、被写体と特定出来る寄せ方は避ける）。自分の知らない分野だと、それと知らずに生成画像の特徴を拾ってしまうことがあるので、そういった場合は全体のイメージだけを参考にするなどにとどめます。
b）、c）については、『それって利用隠しじゃない？』と思われる方もあるかと思いますが、正直、私たち絵を描く事が専業の人間でも、生成画像かどうかは見分けがつかなくなってきています。
また、写真は生成AIサポートを受けたツールで補正・修正されていることがあり、通常の修正かどうかは見た目では見分けがつかないことが多いです。
なので、万一生成画像が紛れ込んでいた場合に、作成したイラストにその影響が及ばないようにしています。
２）作画時の生成ＡＩ不使用の客観的な保証
これは今とてもむつかしくて、一般的な方法としては、タイムラプスを取っておくなどがありますが、作業環境への負担が大きい上に、決定打にはなりません（編集などが可能なので）。
取り扱いに気を使うところもありますが、自分は、Content Credentialsという仕組みを利用しています。画像の出どころや来歴など、画像の成分表示をしてくれる取り組み/サービスです。
去年のアドベントカレンダー、それに続く記事で、お試し記事と、クレジット埋め込みに特化した版の利用方法の解説記事を書いています。
使い方についてはこちらをご参照ください。
まだ対応しているアプリがAdobe系のものに限られ、多くはないのですが、
Photoshopなどの作画アプリからの出力であれば、キャンバスを新規作成してから最終保存までの、
キャンバスに貼り込んだ画像のサムネイルやファイル名、来歴
作画中に行った操作
作画中の生成AI関連機能の利用の有無
をファイルに保存する形で記録してくれます。＊
また、それを第三者が確認することができます。
＊ファイル、もしくはサーバーに保存が可能ですが、サーバー保存したデータは公開のネットワーク上で第三者が見られるようになってしまうので、機密保持が必要な仕事の場合は、絶対にサーバー保存しないように注意が必要。
つまり、自分が生成AI関連機能を使ったならその旨が、使わなかったらその旨が、自分では操作や削除不可能な形でファイルに残されるので、客観的なそれらの記録として残るんです。
Adobeさんの場合、
このように生成AIサポートを受けた機能の一覧を公開してくれています。
また、生成AI機能を利用した場合は、当該のレイヤーに…
このような表示がなされ、ひと目でわかるようになっています。
Adobeさんのアプリ、生成AIのサポートを受けやすい環境ではあるのですが、逆にそれを避けた制作の手段もきちんと用意されており、生成AI不使用の証明も容易です。
ほかの作画アプリでこういった記録を行ってくれるものがあるかどうかは、残念ながら自分は詳しくないです。
１），２）を組み合わせることで、
作画時に利用した素材に生成AIを利用していない
作画中に生成AIを利用していない
2つを証明することができる=イラスト作画の際に、生成AIを利用していない旨を、客観的な証拠でもって、証明することができます。
無理ゲーでは or めんどくさい、それはそう
『なんでそこまで徹底した管理が必要なの！？』
それはそう。そう思われるのは当然だと思います。
ただ、手持ちの素材に著作権や肖像権周りの問題がないか、権利周りの管理を普段からされている方にとっては、特に素材や資料まわりの話については、今回の作業はその延長なんだな、と思ってもらえるのでは、と思います（そうだといいな）。
また、イラストレーター側として問題となるのは、契約上トラブルが発生したときの証明の難しさ、作業や金銭的な負担の重さなので、交渉で契約書上のそのあたりの文言を調整してもらうほうが、より現実的だと思います。（現状は）
なお、これは仕事上、人の作品に関わる場合の話です。
もちろん、これだけ徹底した管理をしていたら、コストもかかるし、表現の自由度は普段よりもかなり落ちます。しかし、表現よりも炎上リスクの回避などを優先したい場合って多いし、表現の自由度について、その向上のためにクライアント側にリスクを取ってもらうことは、なかなか難しいです。
反面、仕事ではなく、自分自身の作品制作を行う場合は、ここまでの管理は必要がない場合も多いと思います。
炎上やいわれのない中傷のリスクを避けることと同じように、たとえそれを受けても、自分の作品の表現の上でのベストに誠実であることも、また、絵にとって大事なことだと思います。
おわりに
契約上、生成AI不使用を保証することが必要になったけど、それってどうやったらいいの？というノウハウってまだ世の中にあんまりでていないと思うので、『こういうときはまず自分から』、という自分ルールに則って、記事を書いてみました。より良いやり方があれば、ぜひ他の方の記事を拝見したいです。
微力ながら、ブレインストーミングや、実務や、その他諸々、何かのお役に立てれば幸いです。
追記
この方法、コストがかかると書きましたが、自分が導入している機材やアプリの概算額書いておきますね。
カメラ（というかスマホ）
Pixel 10 pro XL（proでもok）：〜19万ちょっと
カメラについては、メーカー各社さんで対応進めている最中のようで、もう少し選択肢増えるのではと思います（ただ、報道の真正性を担保する機能として見られているので、フラグシップモデルのほうが導入早いのかな）。
スマホで最初に搭載されたのはPixelだったので、こちらを購入しました。セール時期に下取りとかと合わせるとだいぶお手頃にお求めいただけます。
アプリ
Photoshop CC：年約35,000円〜（自分はほかのアプリも使うので、Creative Cloudで契約）
Lightroom：Creative Cloudの契約内
これは自分はもともと昔からPhotoshopで描いているので必要経費ですが、他ツールを使っている人が追加で出すには高いですし、Photoshop上で、新規ファイル作成から作業を完結できないと、記録の意味がないです。
皆様が使っている描画アプリ上で動く記録用プラグインや、方法の登場が待たれます。
この追記の意図
自分は興味があったのでここまでやりましたが、この通り、個人が負うには大きな負担です。
なので、この記事を『こういう方法があるので全員、完全排除やるべき』という論拠には、決してしないようお願いします。
あくまで、『こういうので困ってて、自分はこうした』の一例として本記事を書きました。皆様の工夫や、記録以外での対応策など拝見できたら嬉しいです。
コメント