日本AIクリエイター協会🄬では
AIを使うすべてのクリエイターを守る活動をしています
また著作権観点もニュートラル視点から内容をシェア致します
また、AIクリエイターも著作権の知識を入れとく必要もございます
問題がございましたらDMをくださいませ。即時対応いたします

参加メンバー

登壇者　　：福宮あやの氏 - 声優・俳優

登壇者　　：カーラ・オルティス氏 -
米国アーティスト・画像生成AI運営会社へ集団訴訟

蟹江隆広氏 - 日本イラストレーター協会会長

洋介犬氏 - ホラー漫画家・日本漫画家協会特別職参与

通訳担当者：レナト・リベラ氏 - 英日通訳

司会　　　：福宮あやの氏 - 声優・俳優

生成AIとは

福宮彩野氏（声優、ナフカ事務局長）が生成AIの概要を説明しました。

• 定義: AI（人工知能）が58億枚の画像データやテキスト、映像、音楽などを学習し、それらを基に新たなコンテンツを生成する技術。

• 主な問題点: AIエンジンそのものよりも、学習段階でのデータの収集方法や、生成されたコンテンツの状態が主な論点となっています。

• 学習データ: Web上の大量のデータを

• スクレイピングして学習しており、1枚1枚の著作権許諾は事実上不可能。

生成AIをめぐる問題事例

主にイラスト部門で問題が起こっています。

• ジブリAI: オープンAIのCEOが自身の写真をジブリ風にした例など、特定の絵柄を模倣した生成物が論点となっています。

• ディープフェイク: 卒業アルバムの悪用、子供の写真、芸能人の加工写真など、性的な嫌がらせや誤情報生成が問題視されています。

• 不正確な情報: ネズミの画像が学術論文に掲載されるなど、本物と見分けがつかない不正確な画像が生成され、図鑑などで使われると命の危険につながる可能性も指摘されました。

• トレードドレス侵害: バンダイナムコの名前とロゴが、関係のない暴力的なフィギュアの生成物に表示された事例が発生し、企業側が強い抗議声明を出しています。

各国の対応状況

日本の状況

• 著作権法30条の4: 「思想または感情を自ら享受し、または他人に享受させることを目的としない場合には著作物を利用することができる。ただし、著作権者の利益を不当に害することになる場合はこの限りではない」と定められています（2018年）。「享受目的」の有無や「不当に害すること」が主な論点ですが、具体的な判断は判例に委ねられます。

• 文化庁の見解:

  • 非享受目的の機械学習は著作物の利用に問題なし。

  • 追加学習（ローラなど）で特定の絵柄を狙うものは違法の可能性が高い。

  • 作風や画風は著作物ではないが、市場の衝突により著作権侵害となる可能性を警告。

• 経済産業省の見解:

  • 肖像権や声のパブリシティに関する不正競争防止法上の考え方を整理。著名人の顔、体、声を使って商売をする場合、不正競争防止法違反となる可能性を示唆。

• 内閣府の見解（AI時代の知的財産権検討会の中間とりまとめ）:

  • オプトアウトの対応策検討を推奨（自分の作品を学習データから除外する権利）。

  • 法律、技術、契約の3つの側面から生成AIに対処する必要性。

  • 声もパブリシティ権の範囲内であると確認。

  • 新たな法律による規制の可能性も検討。

アメリカの状況

• フェアユース原則: 著作権侵害の最大のポイント。「利用の目的と性格」「著作物の性質」「利用された量と重要性」「オリジナル作品の市場への影響」を総合的に検討し、公共性が高い場合に容認される傾向があります。開発側は「圧倒的多数が利益を受けるものを開発しているためフェアユースである」と主張していますが、個人著作権の侵害とのバランスが論点です。

• 主要な訴訟事例:

  • ウェストロー訴訟: 裁判判例検索エンジンを生成AIで模倣した事例。競合サービスとなるためフェアユースではないと判決。

  • 連邦著作権局の報告書（プレ版）: 新しい概念として**市場の希釈化（マーケットディリジョン）**を提示。生成AIによる大量生産が市場を飽和させ、個人クリエイターの仕事を減らすことから、商用利用には許諾が必要ではないかという考え方を示唆。ただし、この報告書を出した局長が解雇され、公式版は未発表。

  • Anthropic裁判: 生成AI初の略式判決。海賊版から取得したデータはNG。購入したデータはフェアユースの範囲内。1作品あたり44万円（3,000ドル）での和解案が提出され、総額2,200億円と過去最高額に。判決まで行けば150兆円になる可能性もあり、早期和解を目指しています。

  • Metaの訴訟: 略式判決で、市場の希釈化により大部分の機械学習はフェアユースではないと判断。必要なデータは購入すべきと指摘。

  • ディズニー、ユニバーサル、ワーナーブラザーズなど大手映像会社の訴訟: 大手スタジオも訴訟を起こしており、生成AIの使い方に問題があるという認識が広まっています。

ヨーロッパの状況

• AIアクト: 2024年5月に成立し、2027年から施行予定。

  • 生成物のトレース可能情報の開示義務: AIがどのように使われたかを追跡できるようにする。

  • 生成物と人間の創作物の区別: ウォーターマークなどでAI生成物であることを明示する義務。

  • AIモデルの適正確認義務: 法を犯していないか、生成元が確認する。

  • 訓練データの透明性確保の推奨: データセットの透明化により、意図性やオプトアウトのプロセスを容易にする。

• ヨーロッパはクリエイターを保護する方向に動いていると見られています。

中国の状況

• 国家主導の開発: 著作権に関しては最も手堅いと見られています。

• AI生成物への著作権: AI生成物自体に著作権を認める判決と、著作権侵害を認める判決（ウルトラマン裁判など）の両方が出ており、見解が分かれています。

パネルディスカッション詳細

アメリカにおける生成AI訴訟の現状

• 訴訟件数: 50件以上と非常に多く、費用と時間がかかるため、業界にとっては異例の数。

• 開発会社への影響: 開発企業は政治献金などを通じてポジティブなイメージを形成しようとしている。

• ユーザーへの影響:

  • 大企業は法廷闘争の結果を注視し、ネガティブなイメージがつくことを恐れて利用を控える傾向。

  • 一般ユーザーは生成AIに前向きでない意見が多い。調査結果では、AIについて知れば知るほど嫌になるという感情が強い。特にクリエイターへの尊重不足や支払い不足、プライバシー問題が懸念されています。

日本における生成AIへの認識

• イラストレーターの状況（カニエ氏）:

  • 一般的な可愛いイラストや一般受けするイラストを描く協会会員は、現時点では生成AIによる仕事の減少はあまり聞いていない。

  • しかし、アニメ風イラストなどパターン化しやすいものは生成AIの影響を受けやすい可能性がある。

  • 企業からの細かい要望に対応できなかった生成AIが進化しており、今後は影響が拡大すると予測。

  • イラストレーターが生成AIを使うメリット（修正能力）はあるが、倫理観や仕事が奪われることへの反感から利用者は少ない。

• 漫画家の状況（ヨウスケ氏）:

  • 漫画業界全体では生成AIに対して「静観」の立場。

  • 漫画家個人では、生成AIをいじる時間があれば自分で描いた方が早いという判断も。

  • 編集部ではAIアシスタントの実験的な導入事例もあるが、絵よりもチャットGPTによるシナリオ作成での活用が水面下で進んでいる。データセットの問題を知らずに使ってしまう漫画家も少なくない。

  • 漫画家は著作権リスクや炎上を恐れて全面的な利用には消極的。

  • 情報商材系の人々がAIで漫画を制作し販売する事例があり、読者から悔しいという相談が寄せられることもある。しかし、法律が追いついていないため、現状では個人の漫画家ができることは限られている。

  • 日本の漫画業界は「団結しにくい」特性があり、生成AIに対する大規模な運動はまだない。

Carla Ortiz氏の訴訟について

• 訴訟の経緯:

  • 2020年頃、自身や知人のイラストレーターの名前が使われたクロッキーやスケッチが掲載されたウェブサイトを発見。当初は研究成果かと思ったが、知人は皆知らないと回答。

  • 運営者に連絡したところ、サイトが消滅。その後、MidjourneyやStable Diffusionが登場し、多くのアーティストの作品が無許諾で学習データに使われていることを確認。

  • Stable DiffusionのCEOとの話し合いで「後で対応する」と軽視されたため、法的措置を決意。

  • 2022年10月、Stable Diffusion、Midjourney、DeviantArtに対し、初の集団訴訟の原告となる。後にRunwayMLも追加。

• 訴訟内容: 著作権侵害、トレードドレス侵害（企業のロゴやブランドイメージの無断使用）。

  • 特にStable Diffusionは、ユーザーが特定のアーティスト名をプロンプトで指定して画像を生成できる機能を提供していたため、アーティストのブランドイメージの悪用を助長したと指摘。

• 現在の状況: 訴訟は進行中であり、現在は「ディスカバリー」（証拠開示手続き）の段階。公にされていないメールのやり取りなども開示請求されており、新たな事実が浮上する可能性に期待が寄せられています。結論は2026年頃と予想されています。

国際的な連携の可能性

• Carla Ortiz氏の見解:

  • 生成AIの問題は全世界で同時に発生しており、各国で市民が声を上げることが重要。

  • 一国で規制が確立すれば、AI開発が規制の緩い国に移動する可能性があるため、グローバルな連携が必要。

  • 「クリエイターを搾取することは許されない」というメッセージを世界中で発信することが、全体的な地位を強化する。

• 日本の状況:

  • 日本イラストレーター協会はフリーランス保護に関する啓発活動は行っているが、国際的な交流は限定的。

  • 日本漫画家協会は強力な団体とは言えず、著作権問題に対する大きな動きはまだ見られない。

「クリーンな」AIとは

• 米国にオプトインの選択肢はなし（Carla Ortiz氏）: これまで自分の作品が勝手に学習データとして利用されており、選択肢が与えられてこなかったことに怒りを感じている。

• クリーンなAIへの期待: パブリックドメインのデータや、ライセンスを取得したコンテンツ、そしてオプトイン（利用許諾）によって学習されたシステムであれば、問題はないとCarla氏は考えています。

  • 「Mitsua Diffusion」のように、パブリックドメインのみで学習を始めたAIプロジェクトもあり、その品質の違いは確認できる。

  • AdobeのFireflyはライセンスコンテンツ、パブリックドメイン、公開ライセンス作品で学習したと主張するが、公開ライセンス作品の具体的な定義は不明瞭。また、内部では従業員にその質問への回答を禁止しており、後にはFAQからも削除されているため、不信感がある。

  • Fireflyは写真家の作品を無許諾で学習データとして利用した疑いがあり、オプトアウトの選択肢もなかったとCarla氏は指摘。

  • 高品質な生成AIは膨大な量の画像データ（数十億枚）を必要とするが、Adobeがそれだけのストックを持っているはずがなく、倫理的な手法でデータを入手したとは考えにくいとCarla氏は結論づけています。

• オープンAIのCEOの発言: 「著作権物を利用しなければ、自分の開発している商品は不可能である」とイギリスの法律議論の場で発言。これは、著作権のある作品なしでは生成AIの品質が低下することを示唆しています。

• Carla Ortiz氏の結論: テクノロジーの存在自体を拒否しているわけではない。しかし、人の仕事にネガティブな影響を与えない範囲で、倫理的に開発され、最初からオプトインを導入していれば、現在の状況は避けることができたはずだと主張しています。

日本とアメリカにおける対立構造

• 日本（福宮氏）: SNSでは生成AIに関する激しいバトルが日常的に起こっており、健全ではない。

• アメリカ（Carla Ortiz氏）:

  • 人々は3つのカテゴリーに分けられる: ①影響を十分に理解しておらず、教育が必要な人、②仕事を失うことを恐れて利用を検討する人、③金銭的に儲かるため利用したい人。

  • 多くの人はAIに無関心だが、最近では政治家もAIへの懸念を表明。

  • 地方ではデータセンターの建設により、冷却水として水が大量消費され、住民の飲み水が不足する問題が発生。これにより、テック企業に対する不満が表面化しています。

  • 「水を奪い、仕事を奪い、クリエイティブな労働を奪うのか」という反感が広がりつつあり、テック企業は世論を誘導するため多額の資金を費やしています。

• クリエイター個人が対立に巻き込まれた場合（カニエ氏）: ネット上でのバトルは考え方の違う相手とは不毛であるため、あまり関わらないようにしている。

• 漫画家の場合（ヨウスケ氏）: 漫画業界は静観の立場。AIを使った漫画家を擁護しても批判され、規制を訴えても批判されるため、公式な声明を出しにくい状況。日本独自の「おまかせ」文化や「ガラパゴス」と言われる特性が、国際的な足並みを揃えにくい要因にもなっています。

AIクリエイターとその作品の価値

• ヨウスケ氏の見解:

  • 漫画家の中には背景やモブキャラにAIを利用する人もいるが、個人的には「カロリーを省略できるステップに対し、非常に高いリスクを内包している」と懸念。

  • 芸術作品は成果だけでなくプロセスも重視される。AI生成物はプロセスにおける「味付け」ができるのかが課題。例えば、「水の中にいる女の子」というプロンプトで簡単に生成される作品と、試行錯誤を重ねて作られた作品では受け取られ方が異なる。

• カニエ氏の見解:

  • イラストレーターの場合、最終的な「出来栄え」が全てであり、プロセスは一般的にあまり重視されない。良いものはAI作品であっても良いと評価される。

  • 日本イラストレーター協会では、AIを一部でも使用した作品はコンペで不可としている。過去のコンペで、AIで作られたとみられる非常に高品質な作品があったが、審査員が不自然な部分（意味をなさない文字、人間が描いたものではないとわかる描写）を見抜き、応募者に問い合わせたところ辞退した事例があった。

  • AIの技術進歩により、人間が描いたものとAIが描いたものの区別がつきにくくなり、公平性の問題が深刻化すると予測。

パネリストからの最後のメッセージ

• ヨウスケ氏: 日本は足並みが揃えられていない現状を残念に思うが、日本の文化が良い意味でガラパゴスと言われてきた部分を、今一度見直す良い機会になった。

• カニエ氏: 生成AIに関して日本は欧米や中国に比べ後進国であり、今後訴訟問題などが多数発生すると予測。今日の話は大変勉強になった。

• Carla Ortiz氏: 世界中でゆっくりではあるが確実に進歩が見られ、いずれ大きな変化が訪れるだろう。技術ツールは倫理的に開発されるべきであり、そうであればアーティストも利便性の高いツールとして活用できる。皆で協力し、倫理的なAI開発を推し進めるべきだと強調。

(23:20頃) カーラ・オルティス自己紹介

• 「こんにちは。カーラです。コンセプトアーティスト、イラストレーター、ファインアーティスト、現在はアートディレクターもしています。アーティストとクリエイターの権利を擁護する活動もしています。」

(28:53以降) 訴訟の数について

• 「米国は訴訟社会で有名ですが、それでも訴訟はお金も時間もかかるもの。業界の歴史が浅いのに（3～4年ほど）、主要AI企業のほぼすべてが訴えられている現状は“非常に多い”と言える。」

(31:26以降) 開発側・政治との関係

• 「開発者が萎縮することを期待したいけど、米国や英国ではテック業界が政治と密接で、巨額の資金で政策に影響を与え、自分たちに有利なアジェンダを推し進めている。」

(33:51以降) 企業ユーザーの慎重姿勢

• 「個人ユーザーはさておき、大手エンタメ企業は、進行中の訴訟の帰趨次第で“使ったAIが違法だった”とみなされるリスクを恐れ、距離を置いている。」

(37:04以降) 世論の傾向

• 「多くの調査で、生成AIを知れば知るほど使いたくなくなる、という傾向が出ている。クリエイターへの正当な対価、無断スクレイピングなどプライバシー面への不信が大きい。」

(48:06以降) きっかけと初期調査

• 「2022年初め、ミッドジャーニーが出始めた頃、友人アーティストの“名前付きのスケッチ”が並ぶサイトを見つけた。友人に確認したら誰も承諾していない。運営に連絡すると、関連グッズまで売っていたのに、指摘後にサイトごと消えた。」

(53:09以降) 各社への働きかけと提訴

• 「その後、Stable DiffusionやMidjourneyの経営陣にも“同じやり方（無断で名前・作風を使う）だ”と指摘したが、取り合わず収益化を進めた。学生を含む周囲の仕事への影響がすぐ出たため、2022年10月、Stable Diffusion／Midjourney／DeviantArtを相手取ったクラスアクションの原告になり、その後RunwayMLも追加した。」

(59:18以降) 訴訟の進捗（ディスカバリー）

• 「昨年、大きな前進があり、著作権侵害や不正競争等の主張で“証拠開示（ディスカバリー）”段階に入った。被告側の内部資料・メールなども求められる。裁判所への提出は2026年初頭の見込み。」

(1:04:08以降) “トレードドレス”相当の侵害

• 「Stable DiffusionとMidjourneyは“アーティスト名のリスト”を公開し、ユーザーにその名前でプロンプトを作るよう促した。ブランド名だけでなく“作家固有の見た目（作風）”を使えるかのように見せた点は、商標やトレードドレス的な侵害の問題を引き起こす。」

(1:06:18以降) 日本からの支援は？

• 「これは世界同時進行の問題。各国それぞれの国内で声を上げ、規制・法律・ルール作りを進めることが、他国の動きも強める。米国で制限されれば、緩い国へ逃避するだけ。世界中で“搾取は許されない”という共通認識を広げるのが重要。」

(1:11:16以降) 米国の“オプトイン”状況

• 「米国ではオプトインの仕組みは基本的にない。私たちは選択肢を与えられなかった。最初から“パブリックドメイン＋明示的オプトイン”でやってくれていたら、今ここにいなかったかもしれない。選ぶ権利が必要だ。」

(1:16:56以降) Adobe Fireflyへの見解①

• 「（元Adobe協力者として）Fireflyは“ライセンス済み・パブリックドメイン・オープンライセンス作品”で訓練と説明していたが、“オープンライセンス作品”の中身は説明されず、社内では回答しないよう通達され“企業秘密”扱いになった。しばらくしてFAQからもその文言が消えた。」

(1:21:39以降) Adobe Fireflyへの見解②（技術面）

• 「Adobe Stockの“コントリビューター作品（写真家など）”を事前合意の解釈で訓練に使い、実質オプトアウトもできなかったとの不満が多い。技術的に、靴だけでも大量の画像が要る。Fireflyの品質・多様性から見て“数十億枚規模”の画像が必要で、Adobe内部やストックだけでは到底足りない。だから“オープンライセンス作品”という曖昧さが不審に見える。」

(1:26:43以降) 米国でも対立は激化

• 「米国でも論争は激しくなっている。地方ではデータセンターが大量の“きれいな水”を消費し、住民の飲み水に影響する事例も出ている。『仕事・創作・生活資源まで奪うのか』という不満が広がっている。」

(1:44:57以降) “クリーンモデル”への姿勢

• 「パブリックドメインだけで訓練し、追加は明確なオプトインに限る“クリーンなAI”なら問題ない。『Mitsua Diffusion』のような試みは品質は落ちるかもしれないが、他者の仕事を脅かさない。サム・アルトマンは“著作物なしでは十分な性能が出ない”と英政府に述べたが、たとえ“あまりすごくない”製品でも倫理的なら受け入れられる。」

(1:49:38以降) 重要な訴訟ポイント

• 「①メタの事件で、裁判官が“生成AIはフェアユースではない”との趣旨を示した意見が出た。②作家対Anthropicの件は審理到達前に和解だが、巨額で、米国の弁護士業界に“ここは本気の市場だ”という合図になった。③ディズニー等の大手スタジオも提訴に動き始めた。」

(1:59:09以降) 国際連携

• 「アーティスト団体は各国で連携し、国内で変化を起こしつつ、情報を世界で共有して最善の対処法を探っている。今日のような場も、その一部として大切だ。」

(2:01:33以降) クロージング（カーラ）

• 「世界的に少しずつ進歩している。ある時点で一気に変わることもある。倫理的に作られたテクノロジーなら、アーティストも気持ちよく使えるはず。企業が倫理的に振る舞い、誰も後ろめたさを感じない形で使えるツールにしていけると信じている。」

シェアに問題あれば下記にてDMお願いします

＾＾