はじめに

コーネル大の哲学者Trystan S. Goetzeさん（以下敬称略）が、2024年に”AI Art is Theft: Labour, Extraction, and Exploitation”という生成AIに関する哲学論文を発表しました。

本論文の中でGoetzeは、画像生成AIは非論理的な労働窃盗を行っており、その他の多くの生成AIアプリケーションも窃盗に依存していると指摘しています。

個人的に興味深い内容であり、読みながら考えたことを記録しておこうと思いました。

本稿のねらい

本稿では、Goetzeの論文を参照しながら、2025年現在のDall-EやMidjourney、Stable Diffusion等によって実現されるAI画像生成器に内在する問題点を確認し、考えを深めたいです。

Goetzeは画像生成AIにおける諸問題を整理しており、この整理に依拠して思考するのは良いアプローチだと思います。

筆者について

筆者は専業漫画家・イラストレーターです。現在、秋田書店様で連載させていただいております（3月18日に単行本新刊が出ます、よろしくね！）。

上伊那ぼたん、酔へる姿は百合の花 上伊那ぼたん、酔へる姿は百合の花 by チャンピオンクロス。二十歳の大学生・上伊那ぼたんは酔うと少し大胆になってドキッとす championcross.jp

昨年まで、10年ほどSIerやSaaS企業でSoftware Engineerとして勤務し、それ以前は大学院で機械学習（RNN）を利用した認知科学研究をしていました。

最新の機械学習や、ここ1年の生成AIプログラミング動向には明るくありません。
生成AIに対するぼくの個人的態度は基本的に慎重・規制派ですが、様々な主義主張の方にお読みいただけるような記述に努めたいと思います。

本稿中には特定の主義主張の方を攻撃・侮辱するような記述・意図はありません。

Goetzeの論旨を追う

まず、論文『AI Art is Theft』における力点部分を簡単に紹介します。
（全文はWebにて公開されていますので、そちらを参照ください）

a. 美術品盗難の3区分

Goetzeは生成AIが関与する美術品盗難を以下の3区分に整理し、個別に内容を検討しました。

• 強盗

  • 生成AIの訓練において物理的に盗まれたデータは存在しない。

  • しかし、AIモデル訓練のため、大量の作品データがデータスクレイピングプロセスを通じて作者や著作権者の許可なく盗まれていることを、強盗の換喩とみなせると指摘する。

• 盗作

  • Goetzeは、クリエイターによる反AI抗議運動の中心的主張を「画像生成AIは創作的労働に対する”責任の窃盗”を行っている」点だとみなす。

  • 責任の窃盗とは

    • 盗作者が盗むのは既存作品自体ではなく、盗作によって作品を作ったことに対する名誉とそれに伴う報酬であることを意味する。

  • Goetzeは盗作行為を「オリジナルのコピー」「作業委任」「創作スタイルの盗用」の3つに整理している。しかし、通常芸術活動においては（学術論文などと異なり）参照・影響元の明示は求められないため、これらは「生成AIによる盗難」における傍流的な位置を占めている。

• 労働の窃盗

  • 人間のクリエイターは、＜創造的な構成要素（アイデア、芸術的プロセス、文化など）を変換して作品を生み出す”労働”＞を所有しているために、それらの（労働が混じり合った）作品もまた所有しているとみなせる。

    • 一方、それらの作品（他人の所有物）を使用して AI モデルを訓練することは、農家から穀物を盗んでケーキを焼くことに似ている。

  • 泥棒パン職人はケーキを作るために盗んだ穀物に対する権利がない。

    • したがって、泥棒パン職人にはケーキの所有権を主張する権利もない。

    • AI 開発者はウェブから収集した何十億ものアート作品に対する権利を持っておらず、人間の創造的な労働の成果であるこれらの製品をAI開発に使用する権利も有さない。

b. 人間とAIモデルの差異

さらにGoetzeは、人間のクリエイターが（鑑賞や模倣、参考として）お互いの作品を利用することと、生成AIモデルが既存作品を利用することをどのように区別できるかという問いを提出します。

物理的な強盗や贋作と異なり、スタイルの窃盗や労働窃盗とは被害者が所有権を主張できるものを同意なく使用されてしまうことであり、そこには同意の侵害によって生じるクリエイターの人間性の中核に対する無礼が認められるといいます。

しかし、都度明示的な同意が必要になるようでは、人間にとっても創作性の抑圧となるというレッシグらの著作権批判をどう考えるべきか？

ここでGoetzeは、人間のクリエイター間には（盗作しない限り）お互いの作品を（明示的同意なく）参考にできるという共通理解があり、以下の目的のために一般的な尊重の態度を通じてお互いの自律性を保護するための確立された慣習・規範意識があるといいます。

• お互いが自身の創作技術を向上するため

• お互いがオリジナル作品、または派生的な作品を作成するためのインスピレーションを得るため

ところが、生成AIは、人間のように創作技術を向上したり、インスピレーションを得るために作品を参照しません。
これらの小規模借用に対し、生成AIはコンピューティングリソースが実現する大規模流用によってこの創作コミュニティ全体の規範意識を損なってしまう。

ゆえに、生成AIは征服的な植民地主義、および規制が行き届かない資本主義の暴走によってもたらされる価値抽出の搾取を行っており、これを止めるにはデータ収集と処理に対する新しいアプローチ、および根底にある倫理原則を成文化した施行可能な規制が必要だとGoetzeは締めくくります。

人間と生成AIとの差異について考える

人間と生成AIとの差異について、Goetzeは「規範意識を共有するか」と「価値抽出の搾取」を強調しています。

ところで、2025年3月公開予定の”全編にAI活用した初のTVアニメ”である『ツインズひなひま』の公式サイト上で、ヴィジュアリストの手塚眞さんが以下のように語っています。

「人間がやっている（学習している）から許されるのに、機械がやった（学習した）瞬間におかしい」という人間と生成AIとを単純に同一視する主張は、上記に示したGoetzeの指摘への反論なしには首肯できないと思います。

人間と機械の学習は同じではない

加えてぼくは、現状の生成AIの種々の搾取性と独立に、プロセス観点における人間の生成AIとの創作・生成も同一視はできないと考えています。

たとえば、Google DeepMind Research Engineerの賀沢秀人さんが2021年の寄稿論文において以下のように説明されています。

ここに端的に示されるように、深層学習アルゴリズムおよびその一種である大規模言語モデル（LLM）の学習処理は、たとえ外的に観測できる振る舞いに類似点があり、アルゴリズムが人間の認知モデルを参考にしているとしても、人間活動とただちに同一視することは難しいと考えます。

規範意識とはなにか

Goetzeはレッシグらを批判的に検討する上で、クリエイター同士の借用に対する規範意識という概念を強調しました。

しかし、当然「そのような規範意識など存在せず、人間と生成AIを恣意的に区別するための虚構である」というような反論が想定できます。

ところで、小説家のテッド・チャンさんは「アートは単に美的な経験を提供するだけでなく、想像者と鑑賞者の間に意味のやり取りを生み出す」と言います。
チャンは「意味」とは人間が生きる中で他者と共有し、共感し合うものだと述べているそうです。

クリエイター同士の借用と成長とは、まさにこのアートにおける「意味」そのものではないでしょうか。
ぼくはここで、＜規範意識＝意味＞論を考えてみました。少々大胆でしょうか？

他者と共有する作品によって、クリエイターは自身の技術を研鑽しインスピレーションを獲得します。
手塚眞さんは「みんな手塚治虫タッチの漫画だった」と指摘されていますが、それはこの「意味」において規範意識が守られた上に生起していた事象ではなかったか。

太平洋戦争後と現在とでは、国内の漫画事情も大きく異なるため、単純に比較はできないと思います。

作品の借用について

ぼくは漫画家なので、あくまで自己の経験に根ざした絵画技術について限定し、「作品の借用」について考えてみます。

絵を練習する際、ぼくらは手本となる作品を多かれ少なかれ参照すると思います。これをGoetzeに習って借用と呼びますが、ここでは具体的に何をしているか。

それは、端的に言えば手本を構成する要素の分解・解釈・体現でしょう。
つまり、対象を観察して（Input）解釈し、自分なりに模倣ないし変容させて描画（Output）してみるのです。

ここでの分解の最小単位とはなにか。

これをまだ上手く説明できませんし、浅学から先行研究を引くこともできないのですが、それはイラストで言えば「肌の塗り方」や「まつ毛の処理」といったアトミックな手法・技術と言えないか。
人間は、作品（それは音楽でも、絵画でも）を観察することで特徴を抽出し、これを解釈して汎化し、自分の創作（出力）に応用できます。

これを、ここでは「一を聞いて十を知る」応用性と呼んでみましょう。
あるいは、「十を見て百を描く」のほうが近いでしょうか。

ぼくは、この「一を聞いて十を知る」人間の技術習得による絵画行為と、タグ付けられた大量の訓練データを用いて訓練された生成AIの画像生成（復元）とは、借用対象の利用方法が全く異なると考えます。
後者は、いわば「億を知って万を描く」ようなスケールでしょうか。

この差異に関心を払われない方もいらっしゃるでしょうが、ぼくは極めて重要で興味深い観点だと考えています。

（2025年3月11日追記）
ぼくは機械学習全般が「一を聞いて十を知る」ことができないとは主張していません（LLMとは違う話ですが、教師なし学習などを考えてみれば当然です）。
また、将来的に（現在のLLM技術と比較して）極めて少量の訓練データによって基礎モデルが訓練できるアルゴリズムが開発される可能性もあると思っています。
ぼくの言いたいことは、人間の画家は人間が鑑賞できる程度の量の作品群から学んで技術、たとえばペンの運び方を学ぶということです。
これは現在におけるLLMの世界観である、学習データ量を増やして巨大なモデルを学習して「指示と出力」の一致精度を上げる「学習」とは、借用作品の使い方が違いますよね、という意見なのです。

おわりに

駆け足になってしまいましたが、Goetzeの論文をコンパクトに整理しつつ、ぼくが要点だと思うポイントを多少腑分けしてみました。

ぼくはGoetzeの主張が全て完全に正しいとは思っていません。これからも彼を含む哲学者や科学者の主張を受け止めながら思考を続けたいと思います。

誤解を避けるために書きますが、ぼくはRPA等の機械技術による労働負荷削減やいわゆるブルシット・ジョブの解消を目指すDXには肯定的です。
機械学習も依然として、可能性に満ち満ちた分野だと考えています。

しかし、上述した”3つの窃盗”などについて納得できる着地点を見出さないまま、「バスに乗り遅れるな」の精神で生成AIを言祝ぎ持ち上げ、加速するビジネス競争の渦中で人文知的議論を排除してしまう傾向には明確に抗したいです。

これを失念すれば、生成AI以外における様々な分野においても、視野狭窄と思考停止の轍へぼく自身を招いてしまうと考えます。
これは、他者でなく、他ならぬぼく自身に対する意識付けなのです。