絵描きにイラスト生成AIはいらない
August 22nd, 2024 22:55・All users
私が最初にイラスト生成AIに関する記事を公開したのが2022年10月のことです。それを含めると合計で3つの記事を公開してきました。
それから1年以上が経過し、絵描きを取り巻くイラスト生成AIの状況も変化してきました。この記事は現状の考えをまとめた4つ目の考察記事となります。
## 追記と修正
- 2024年8月25日に注意点と用語について追記し、関係する箇所を修正しました。
- 2024年8月24日に法的進展に関する記述を追記しました。
## 概要
この記事では、イラスト生成AIが絵描きにとって不要であると結論づけています。
そう考える理由として次の3つを挙げています。
- イラスト生成AIが引き起こす問題があまりに多い
- イラスト生成AIが登場してから今まで悪い方向に進み続けている
- イラスト生成AIは絵描きと相性が悪い
また、イラスト生成AIが関係する法的な進展についても触れ、私たちに今できることを考えます。
## 注意点
この記事は生成AIを肯定・否定するものではありません。前述の通り、イラスト生成AIについて2年近く観察した個人的な感想として『イラスト生成AIは絵描きにとって不要』だという結論に至った、と述べているにすぎません。
また、この記事は特定の行動を推奨するものではありません。現状のイラスト生成AIの問題点を振り返り、それに対してどんなことができるのか考察していくという内容になっています。
## 用語についての注釈
芸術: この記事で用いられている芸術という用語は『特殊な素材・手段・形式により，技巧を駆使して美を創造・表現しようとする人間活動，およびその作品（スーパー大辞林からの引用）』という意味で使用しています。
芸術的な特性は絵画や彫刻以外にも、音楽を奏でること、小説や詩を書くこと、ファッションや身なりに気を使うことなど、さまざまな活動に含まれます。そのため、例えばこの記事で『プログラミングは技術的な側面が強い』と書いてある場合でも、その分野の芸術性を否定しているわけではないことに注意してください。
生成AI: 生成AIという言葉には広い意味が含まれています。生成AIができることは多岐に渡りますが、この記事では主に現状のイラスト生成AIを指して用いています。
## 最初の記事を振り返る - 平穏を保つ
最初の記事の要点は、イラスト生成AIについて、
> 心配しすぎないようにしましょう
ということでした。イラスト生成AIのことで不安になるあまり、創作意欲が削がれないように注意を促す意図がありました。
この記事ではイラスト生成AIの問題点についても扱っていまいました。絵描きが生成AIに心をかき乱される要因として、次のように書いています。
> 自分が時間をかけて培ってきた技術や個性を、AIに短時間で学習されてしまうことにあります
また、作者にあるべきイラストの権利が侵害されていることについても触れました。
> AI画像生成は明らかに現役で活躍しているイラストレーターたちの絵も含めて学習しています
他に潜在的な問題についても触れています。
> AI画像生成という創作に極めて近い技術が法的に抑制される事態になったら、そのことを逆手に法的な手段で表現の自由に介入しようとする人が現れるかもしれません
これは一方が法的措置に踏み込むと、相手も同じように訴訟を考え始める可能性があるを示唆しています。
この記事を書いた時点で、これだけ問題点が浮上していたのですから『もっと別の行動を取れていたのではないか』と考えてしまうかもしれません。とはいえ、私を含めほとんどの絵描きにできたのは事態を静観することだけでした。
## 2番目の記事 - 絵描きの武器を研ぐ
2番目の記事ではもう少し踏み込んでおり、絵描きがどのようにイラスト生成AIに対抗していけるのかについても考察しました。例えば、次のように書いています。
> どんなにAIが成長しても決して真似できない領域があります。それは人が描いたイラストには物語が存在しているということです。
これは絵描きが描くこと事態が一つのドラマであるということを意味しています。ドキュメンタリーを思い浮かべるとわかりやすいかもしれません。
逆にしてはいけないことについても触れていました。一例として、イラストの価格設定について次のように書いています。
> AIイラストに対抗してイラストの価格を下げるのは悪手です。
イラストの価格を安易に下げてはいけないことについては、多くのイラストレーターたちが語っている通りです。生成AIが台頭してきたとしても、その原則は変わりません。
この記事ではもっと直接的なアプローチについても述べましたが、実現することはありませんでした。
> 人間関係で生じる問題の解決策は対話することです。そして残念なことにAIイラストについて言えば、まだ対話がなされていません。対話がなされるには人が必要であり、適切な時と場をセッティングすることが不可欠です。
イラスト生成AIは大きな問題になっているにも関わらず、当事者が集まって公の場で話し合われることは、私の知る限りありませんでした。
## 3番目の記事 - イラスト生成AIによる傷痕
正直なところ3つ目の記事は感傷的になっており、ややバランスを欠いているように思えます。
> AIで面白おかしい作品を作って、みんなで楽しんでいた時期が懐かしい
イラスト生成AIが登場したばかりの頃、本当に一時的でしたが、歓迎する空気感は確かにありました。しかし、今は修復しようのないほど深い溝があります。このような対立はどうして起こったのでしょうか。続く文章で、
> モラルの欠如した仕方でAIを使う人
について、考察を始めていますが、読み返してみると考えが散らかっておりうまくまとまっていません。そのような状態で推論を続けた結果、改めて考えると腑に落ちないところに着地しています。
> 生成AI研究は実験的アートの分野で役立つ技術を生み出していくかもしれません
今なら、（すべての権利問題が解決したと仮定して）生成AIが役に立つのはアートの分野ではなく技術の分野であると書くでしょう。この点についてはのちに詳しく述べます。
> 生成AIを創作に活かすことは自分にはできませんでした。
これは体験談であり、絵描きも生成AIを活用すればいいのでは、という疑問に対する私なりの返答です。生成AIが出始めたころは、創作に活かせるのではないかという考えの方も少なからずいました。しかし、イラスト生成AIと創作の相性が悪いことに気づくのにそれほど時間はかかりませんでした。
> 『この方は本当に私に描いてほしいのだろうか。AIイラストでも構わないのであれば、私が描くことに意味はあるのだろうか』
これもまた体験談です。生成されたAIイラストでリクエストや依頼を請ける事例が出てきたことにより、それに依頼をしてしまう人がいることにショックを受け、一時的に自信を失ってしまったというエピソードです。
## 4番目の記事 - 2年近く経ってはっきりしたこと
こうして改めて振り返ったのは、当時には当時の問題や葛藤があり、それなりの理由があって静観したり、失敗したり、あるいは警鐘を鳴らしてきたということを思い出すためです。
そしてイラスト生成AIの台頭から2年近くを経たことにより、よりはっきりと言えることがいくつかあります。
- イラスト生成AIは絵描きにとって良い方向に進化しなかった
最初からそうだったかもしれませんが、当時はまだ良い方向に進む可能性を信じていました。しかし、そうはなりませんでした。
- イラスト生成AIは絵描きたちを苦しめるものとなってきた
特定の絵描きを苦しめる行為にまで及んでおり、さすがに看過できない状況になっています。状況は激化して、互いが誹謗し中傷する泥沼のような争いさえ見受けられます。
- イラスト生成AIは絵描きにとって有害であり益にはならなかった
生成AIの使用者が利益を享受することがあっても、学習元となったイラストを描いた絵描きたちが利益を享受することはありませんでした。
## なぜ生成AIは絵描きにとって有益にならないのか
生成AIが絵描きに多大な苦しみを与えてきたことは明白ですが、もし権利的なものが解決される未来があったとして、それでも有益なものとなり得ないのでしょうか。今言えるのは、イラスト生成AIである限りかなり難しいだろうということです。
イラスト生成AIが絵描きにとって有益でないのは、現状の生成AIの次のような特性によるものです。
- 生成AIは最適解がやがて収束していくような状況で強力である
現状の生成AI技術は最適解に近づくように設計されています。それはU字に反った坂道を下っていくボールのようです。転がるボールは何度かの往復を経て、やがて一番深いところで停止します。イラスト生成AIも似たような推論を経て、生成するものを決定します。
イラストは最適解に向かうものではなく、まして一つの到達点に収束するものではありません。もしイラストが技術だけの世界だったなら、いつかは皆が同じような絵を描いたのかもしれません。技術としての到達点はそこにあるからです。しかし、決してそうはなりません。
- 芸術は最適解を目指すものではない
イラストは芸術という概念も内包しており、その側面が強く出ています。これがイラスト生成AIと相容れない決定的な要素となっています。芸術は未知なるものを追い求め、内奥の感情を発露し、自由な表現を持って外へ遠くへ広がっていく傾向があります。決して最適解に収束するものではないのです。
## イラスト生成AIが活躍できる場は芸術ではなく技術
これは生成AIがすべての分野で役に立たないと言っているのではありません。活用するシーンが間違っているだけです。現にCopilotなどの生成AIを受け入れている人は少なくありません。Copilotはプログラミングの分野で力を発揮しています。
プログラムは書き方は幾通りあったとしても、動作は最適化されて一つに収束していきます（もちろん実際に１つの書き方・結果になると言っているのではなく、そのような傾向があるということです）。
プログラミングは技術的な側面が強い世界です。技術には最適解があり、技術を磨けば磨くほど１つの到達点に近づいていきます。これは生成AIの仕組みとも近しいものであり、相性が良いと言えます。
## イラスト生成AIの問題、どこから取り組むか
イラスト生成AIに関する問題は多岐に渡り、収集がつかない状況となっています。生成AIの規制を求める声も強くなっています。
一つずつ考えていきましょう。
生成AIの根本的な問題は『学習データが事実上の盗用である』ということです。このように感じる絵描きは少なくありません。しかし、現時点で法律に『他者が著作権を有するイラストをAIに学習させ、使用できる状態にすることは盗みであり犯罪である』と明記されているわけではありません。
よって次の点が課題となります。
- イラスト生成AIに関わる一連のプロセスの中で違法な箇所を明確にし、盗みであることを立証する
これは法律に関する広範な知識とAIに関する深い知識が必要なため、実現は困難であると予想できます。さらに難しいのは立証することであり、裁判を起こして判例を作るといった大掛かりなことが必要になってきます。
## イラスト生成AIに求める規制
そこで一歩下がり、イラスト生成AIに求める規制は具体的にはどのようなものか考えていきましょう。
まず、イラスト生成AIの根本的な問題が『学習データが事実上の盗用である』であることを思いに留め、そこを正すのに必要な規制を考えます。私たちが求めるのは盗用を防止することです。
- 学習データが権利的に問題がないことを証明すること
なんらかの形で学習データが権利を侵害していないことを確認できれば良いのです。そして、それを実現するのに有効なアプローチは何を学習に使ったのか明示することです。
- 学習データの透明化
これには、
- 学習に使ったイラストを開示する
- 信頼できる機関に権利を侵害していないか監査してもらう
- 学習データに可逆性を与えて元の画像を復元できるようにする
といった方法が考えられます。
それは例えば次のような規制になるかもしれません。
- イラスト生成AIのサービス提供元に学習データの透明化を義務付ける
## イラスト生成AIの使用に関する規制
（『権利的に問題のある学習データを使った』生成AIについては、前述の課題をクリアしなければいけないので割愛します）。
イラスト生成AIの使用そのものを規制した方がいいのではという声もあるかもしれません。
その場合、例えば危険物のように『資格がないと扱ってはいけない』、銃や刀のように『資格がないと所持してはいけない』、違法薬物のように『使用してはいけない』、といった具合に扱いや所持について規制が入ることについて考える必要があります。
規制は基本的に『危険なもの』に掛けられるものです。それも命や生活が著しく脅かされる危険があるようなケースがほとんどです。
イラスト生成AIは命を脅かすでしょうか。イラスト生成AIそれ自体は命を脅かしません（もっとも、イラスト生成AIによって傷ついた人は大勢います）。脅かすとしても、使用者によるモラルの欠けた迷惑行為、誹謗中傷などでしょう。そして、誹謗中傷は法律で裁かれますので規制を加える必要はありません。
では、現在見られるような絵描きに対するあからさまな嫌がらせとイラスト生成AIはどのような相互関係にあるでしょうか。イラスト生成AIが使用者を駆り立てたのでしょうか。イラスト生成AIがなければ嫌がらせを受けることはなかったのでしょうか。
これに明確に答えるには専門家による研究が必要です。
イラスト生成AIに関する厳しい規制を求めるのは難しいかもしれませんが、自分の置かれた環境でできることがないか探してみることができます。
## 個人にできること
- 署名・募金
## イラスト生成AIの危険性
イラスト生成AIそれ自体は命を脅かさないと書きましたが、現状のイラスト生成AIには見過ごせない危険性が潜んでいます。それは意図しない（望まない）要素が含まれてしまう可能性が常にあり、それが後に大問題となってしまう場合があるということです。
アサシン クリード シャドウズの炎上は記憶に新しいでしょう。それは今も続いています。当初は表現が過激なことを指摘される程度でしたが、矛盾が多く見つかったり、コンセプトアートから盗用が発覚したり、さらに大きな問題へと広がっていきました。
生成AIを使ってコンセプトアートが描かれたのではないか、という意見もみられました。もしかしたらコラージュのような手法も用いて描かれたのかもしれません。どのような方法で描かれたにせよ、作った人の意図しないものが入り込んでしまったのは事実です。そして、それが致命的な問題となりました。
もちろんこのような事態は、絵描きが一から描いたとしても起こり得るものです。ですから多くの絵描きは問題が入り込まないように用心して描いているのです。
イラスト生成AIを使用するなら、それ以上の注意深さが必要になるはずです。精密に描かれた風景に無断使用をしてはいけないものが入り込んでいないか、念入りにチェックしているでしょうか。権利的に問題のない画像と、そうでない画像を見分けられるでしょうか。
## イラスト生成AIの今後
現在、生成AIがこれほど注目されているのはなぜでしょうか。政府によるAI利用の推進、大手企業によるAIの売り出し、インフルエンサーによるAIの宣伝など、AIの推進は大きな動きとなっています。
- AI化は第三の産業革命のように考えられていた
多くの人や機関がこぞってAIを推し進めようとしたのは、AIが産業の大きな転換点となることが予想されていたからです。日本はIT化に乗り遅れた過去があるので、この変化についていきたいと考えたのかもしれません。第一の産業革命が工業化、第二がIT化だとすれば、第三はAI化というわけです。
そして大きな変化があればお金の流れが変わります。ある人々はAIを制したものが次の覇権を握り、多くの富を得ることができると考えたのかもしれません。
- 生成AIは現代のゴールドラッシュのように考えられていた
しかし、流れは変わりつつあります。主要な生成AIに採用されている大規模言語モデルでは、すでに学習データが不足してきています。生成AIを賢くするには大量のコンテンツを学習する必要がありますが、学習を禁止するコンテンツが増え、新規のコンテンツの供給が追いつかず、結果として成長は鈍化しています。
## 法的な進展
最後に世界のイラスト生成AIに関する法的な進展と、日本の生成AIに関する法的進展を紹介します。
2023年11月27日、中国の北京インターネット裁判所が、AIが生成した画像の著作物性と著作権侵害を認める判決を下しました。この判決は、原告がStable Diffusionを用いて画像を生成し、その画像が無断使用されたとして著作権侵害を訴え、裁判所によって認められたというものです。
2024年2月8日、中国の広州インターネット裁判所が、AIが生成したウルトラマンに似た画像が著作権を侵害したとして、AIサービス提供事業者に責任があることを認める判決を下しました。この判決は、中国でのウルトラマンの著作権を管理する原告が、被告のAIサービスがウルトラマンに類似した画像を生成することを問題視して権利の侵害を訴え、裁判所によって認められたというものです。
2024年2月29日、第7回文化審議会著作権分科会法制度小委員会が開催され、配布資料が文化庁ウェブサイトに公開されています。主な議事はAIと著作権についてであり、参考資料の一つとして生成 AI に関するクリエイターや著作権者等の主な御意見が配布されました。
2024年4月23日、中国の北京インターネット裁判所が、AIが生成した音声が声優の権利を侵害したことを認める判決を下しました。この判決は、声優として活動してきた原告が、AI音声として自身の声が販売されていることに対して権利侵害を訴え、裁判所によって認められたというものです。
2024年5月16日、日本の東京地方裁判所で、AIによる発明に特許は認められるかに関して、発明者は人間に限られるとの判決を下しました。この判決は、原告がAIを発明者として出願した特許が退けられたため訴訟を起こしましたが、裁判所は現行の法律が発明者を人間に限定していることなどを理由に原告の訴えを退けたというものです。
2024年8月12日、アメリカの米連邦地方裁判所で、生成AIを用いた画像に関する集団訴訟について判断（判決ではない）が下されました。裁判所は、Stable Diffusionの学習プロセスに著作権侵害の可能性があることを認め、審理が進められる予定です。
2024年8月24日、イラストレーターのやすゆき氏のポストにより、イラスト生成AI被害に対する訴訟のためのクラウドファンディングが始まったことが告知されました。やすゆき氏は有名なVTuberを多数デザインしたイラストレーターとして知られています。順当に進めば、日本で初めて個人クリエイターが生成AI被害に対して提訴する裁判となります。
## まとめ - 絵描きにイラスト生成AIは不要
この記事で考えてきた通り、イラスト生成AIは絵描きにとって役に立つものではなく、むしろ苦しみの原因となってきました。それはイラストと生成AIの仕組みの相性が悪いからです。
慎重な絵描きたちはイラスト生成AIがどのような方向に進んでいくか進展を見守ってきました。そして、それは絵描きにとって良くないものであることが誰の目にも明らかになっています。絵描きたちは平穏に創作を楽しむことを望んでいますが、昨今のイラスト生成AIは看過できないほどの状況になっており、規制を求める声を上げざるを得ないほどに追い込まれています。
イラスト生成AIは学習データが権利的に問題ないことが保証されるべきです。そのためには学習データを開示するなどの透明化が必要になるでしょう。より身近なところでも安心してイラストを描けるツール、安心してイラストを公開できる場所が必要とされています。
絵描きにイラスト生成AIは不要です。必要なのは人としての創造性と、磨き上げたスキルです。
困難な道を共に行きましょう。
---
それでは、よい創作を。
どる（dolphilia）
