概要
AI(人工知能)による画像、文章、音声、動画生成に反対する思想運動。
AI技術が人間の創造性や個性を奪うと主張し、AIによって生成された作品を排除しようとする運動。
またAI使用作品が人権侵害や著作権侵害などの問題を引き起こすと警告し、AI技術の倫理的・法的な規制を求める運動。
及び、上記の目的のため、主にAI利用者とAI利用企業、実際にAI使用したかの有無にかかわらずAIを使用しているとみなした人を攻撃する人達の呼称。
※現在の無断学習AIに批判的であることを自認する立場の人からは、全てのAIに反対する訳では無く、データの無断学習を行った生成AIについてのみ反対しているため『反AI』という呼び方は適切でない、としてAI慎重派、生成AI反対派、無断学習反対派、規制派などの呼称を提唱している。
ただし、AI規制派を名乗る反AIの問題行為により「AI規制派」にも反AI同様の侮蔑的なニュアンスを含む使用法が増えてきている。
生成AIの是非については世界中で巻き起こっている議論であるが、日本の漫画、同人、アニメ等では
・二次創作に寛容
( 新堂エル 氏も述べる通り手描き創作も自由度が高い国)
・それでいて絵柄やアイデアについてはオリジナルを尊重することが求められる(詳しくは絵柄パクを参照)
・海外の様にフェアユース(一定の条件を満たしていれば、著作権者から許可を得なくても著作物を再利用できること)の考えがない
などの著作物をめぐる独特の風習が根付いている。これは日本の著作権法の規定とは必ずしも一致しないため、従来の「業界の常識」の中で育ってきたクリエイターと、そのような不文律を知らない業界外の人々(海外ユーザーを含む)との軋轢が目立っている(外部サイトも参照)。
※一般論としてこのように"荒れている"話題においては文化庁が提供する資料等、一次情報や専門家の知見を参考にされたい。
匿名性の高いSNSや個人が編集したwiki、メディアによる二次的な解釈は信憑性が低くなることに留意すること。
AIイラスト の記事も参照
反AIの語源
「反AI」という単語は生成AI登場前から存在していた。
また反AIも2023年1~2月頃まで、自分達を「反AI」と自称していた。
しかし、反AIの 誹謗中傷 、ネットリンチ、人格攻撃で「反AI」という単語の印象が悪化し
2023年3月頃を境に、反AIは AI規制派 などと自称するようになった。
「反AI」という単語の扱いの変遷
確認できた最古の反AI呼称は、
人工知能学会誌の連載「AIにおける論争」〔第1回〕黒崎 政男
人工知能学会誌(1986~2013, Print ISSN:0912-8085)1987年12月号
に AI反対者の名称として「反=AI論者」という言葉が出てくる。
「反AI」はAIを題材にしたVivyやAI崩壊など、SF作品において「AIに反対する架空の組織や思想」を指す言葉として用いられてきた。
また、2022年頃には 画像生成AI 、Midjourneyなどが登場し、SF作品と現実を絡めて「反AI」の登場を予測するツイートが増加した。
「仕事がなくなって、反AI勢力が誕生するSFが絵描き界隈で起こりそう」2022年1月3日
2022年8月29日 AI画像生成サービスmimicβ版が公開
mimicβ版に批判的な言動をした者を反AIと呼んでいるのが初めて観測される。
「イラスト提供したクリエイターまで叩くとか反AI正義マンやばすぎて草 過激な市民活動団体とかと何も変わらんやんけ やっぱ人間が一番こわいし醜い、はっきりわかんだね」
反AI since:2022-8-1 until:2022-9-1
2022年12月13日頃から始まった、オンラインアートコミュニティ [Artstation]] を発端とした AIイラスト に反対する活動「NOAI運動」が、
2023年1月25日にイラストレーターのよー清水氏(@you629)によってツイッター(現X)上で
と投稿し、NOAI運動=反AI として紹介し、AI反対派推進派間に「反AI」という単語が一気に広まった。
この頃、ツイッター(現X)上で生成AI反対運動をしていた反AIも自分自身を反AIだと認識している。
「海外のほうが反AIって方が多いので」2022年10月28日
「でも反AIが増えてて本当に嬉しい😭😭😭😭おおおおおんんんん😭😭(泣)」2022年12月18日
「こちらの方は他の方の作品もAIによる改変をした盗作をしていましたね… AIを悪用する連中はこうして反AI派を攻撃してくるのでサブアカウントからの報告になり申し訳ありません…」2023年1月27日
これは、2022年頃は「反AI」はAI反対運動としての意味合いが強く
AI反対運動としての反AIと、AI使用者に対して攻撃的な言動を取る人達に対する呼称(反AI過激派、反AI派等)は呼び分けられていたからである。
しかし、Mimic炎上事件、クリスタのSD仮実装潰し、赤松健議員への誹謗中傷といった
反AIによる事件が起こるたびに「反AI」という言葉そのもののイメージが徐々に悪化し、「反AI」という単語が「AIに対して攻撃的な言動を取る人達」の意味合いを持って使われる事が多くなった。
そのため2023年3月頃より、反AI達は「私たちは反AIではなく AI規制派 、AI慎重派である」「反AIはレッテルである」「反AIという単語を使用する人は差別主義者である」と主張するようになった。
理由は「全ての AI に反対している訳ではなく、AIイラストや無断学習される生成AIにのみ反対している」「ディープフェイクなどAI犯罪行為に反発している」というものである。
「「フェミニスト」を名乗ってヘイトをバラ撒く人のせいでフェミニストって名乗れないのと同じ問題が発生しつつあるよね、反AI」2023年3月31日
「反AIと雑な括りはやめた方が良いですよ」2023年3月31日
反AIの主張
著作権法の理解不足に起因する主張
反AIは総じて著作権法の知識が不足しており、いついかなる状況でも著作者が著作物について無制限に権利があるという考え方の傾向がある。
この誤解に基づき「無断で学習されたAIモデルとAI生成物は著作権違反」であり、違法なAIを使用する「AI使用者は犯罪者」だという主張。
(日本著作権法には「制限規定」というものがあり、当該著作物を享受する目的でなければ
機械学習など情報解析のために、著作者に無断で複製行為を行う事が可能である。「当該」という点は特に誤解・読み飛ばしされることが多く、「(AIで作られた)元絵に画風やアイデアだけは似た絵」および元になった画風は「当該著作物」にあたらない。)
「絵柄が保護されないのはおかしい」「生成AI問題に対応した著作権法がない、立法をすべきだ」「生成AIに対する法整備が遅れている」「著作権法30条の4を改正すべきだ」という法律そのものに不備があり、現状合法なAIを使用しているAIユーザーを指し「AIユーザーは脱法行為をしている」とする主張。
(日本著作権法はAI普及のため、著作権法の一部を改正する法律(平成30年法律第30号)が生成AIの普及に先駆けて制定されており、少なくとも生成AIに対する法整備が実施されていないか、又は遅れているという事実はない)
海外の著作権法と日本の著作権法を混合し「著作権法に違反している」という主張。
(海外では日本の様にAIに対応した著作権法整備が進んでおらず、
特にアメリカでは機械学習時のデータセット制作時に複製行為を行う事は
フェアユース規定に相当するか否かで裁判が進められている、また2024年11月にはそのような裁判の一つについて、AI開発企業側が勝訴している。)
(アメリカで以前に主にt2iを用いたAI作品に著作権を認めない姿勢を見せた一方、2025年1月には「創作過程を支援するAIツールの使用は、作品の著作権を損なうものではない」という著作権局の宣言が出た)
またEUでも「AI規制(AIAct)」に関する話が進んでいる点を持ち出すことも多い。
(ただしEU案は、反AIがよく掲げる「無断学習禁止・海賊版対策・(主にイラスト系の)クリエーターの保護」とは関係がない。)
これらの著作権法の無知・無理解に基づいた主張は、文化庁の籾井著作権課課長に「知識基盤のレベル合わせができていない」と評された。
(この発言の背景には反AIが総務省当てに怪文書を送っていた事、文化庁の募集したパブリックコメントに非常識な文章を多数投稿していた事などがあり
「知識基盤のレベル合わせができていない」人とは反AIの事を指している。
また籾井圭子著作権課長はニコニコ動画の生放送(2023/11/29)に出演した際に、コメント欄で暴れる反AIに「(反AIの)狭い世界ではなく大きな枠組みで物事を考えて欲しい」「そういう閉じた世界ではなくてですね・・・」と述べ、反AIへの直接的な苦言を表明している)
著作権法の不理解による主張は政府批判と結びつきやすく、AI使用者が犯罪者であるという主張は誹謗中傷問題に発展しやすい。
利用者がやったことの責任もAI開発者が負うべきとする主張
生成AIに関連して侵害行為が発生する場合、その行為の主体は「AI開発者」「AI利用者」で分類できるものとして整理されている。
例えば「高頻度で学習元画像が出力されるAIを作り出した」場合の主体は前者、「AIに指示して著作権侵害コンテンツを作成し、さらにSNS等で公開した」ならば後者である。
しかし反AIはこういった基本的な整理をせずに、「新しいAIが公開されると、検証と称して自分自身でピカチュウ等の画像を作成・公開し、その結果をもってAI批判」といった行為が散見される。この例の場合、ピカチュウ画像が誰かの特定のイラストと合致するようなものであると示せるならば「AI開発者」が主体の侵害行為とみなせる可能性があるが、それ以外のだいたいのケースは作成・公開した「AI利用者たるその反AIユーザー」自身が主体となる侵害行為である。
生成AIの構造に対する知識不足に起因する各主張
- AIモデル内部に圧縮された学習元が存在するという誤解に基づき「AI生成物はコラージュである」「AI生成物は複製である」「AIモデルは検索機である」といった主張。
- Stable Diffusionをはじめとする画像生成AIのトレーニング用に使われている「LAION-5B」というデータセットに、児童性的虐待画像(CSAM)が含まれていた問題と合わせて「AIモデル内に児童性的虐待画像が入っている」「児童性的虐待画像で学習されたAIイラストは児童性的虐待画像である」「ゆえにAI使用者は性犯罪者である」という主張。
(モデル内部に画像は無いので、この主張は的外れである。またSDは機械学習時に不適切な画像を除去してから学習している事を公表している
仮にモデル内に画像が再現可能な形態で入っているとしたら、数億の画像を数十GBに圧縮するというトンデモ技術が実現していることになる。)
- 「データセットを開示せよ」「問題画像が含まれているならオプトアウト(データセットから除去)せよ」という主張
(AI生成物が版権キャラクターや特定作家と似た画風を出力するのは、無断転載された画像で機械学習されているためだと信じているため)
- AIモデルの取り扱いを免許制にすべきだという主張。
(ローカルモデルが世界中に普及している今、現実的ではない。)
- あらゆるAIコンテンツにAI製と表示すべきだという主張。
(ゲームやスマホやカメラの高解像度化などにも生成AIは活用されている事を無視している)
反AIの主張の原因
- 「(アニメや漫画系の)イラスト」「絵師」「二次創作」の神格化
例1:無断学習が問題と主張する一方で、イラスト系以外の生成AIは問題ないとする思考(特にDeepL、Google翻訳などの翻訳AIへのダブスタを指摘される)
例2:AIで大量生産が容易になり金儲けが容易くなるのが問題と主張する一方で、昨今の二次創作界隈における原価がほとんどかからない電子書籍やskeb,Fanbox等でのマネタイズは問題ないとする思考
例3:手描きの二次創作や絵柄参考はリスペクトと努力があるが、生成AI製はそれがないから問題とする思考
- 生成AIへの生理的な不快感
イラストの技術や質を評価するのではなく、心理的に不快だという理由で「生成AIの使用そのもの」を否定することが動機になっている。
- 反AIにとって生成AIは「穢れ」として捉えられており、穢れた 生成AI 利用者を社会的に孤立させようとする。
そのため、一度でも生成AIを活用したのならクリエイターでもあっても「この人は異常者なのでブロック推奨」「生成AIを使用したクリエイターはクリエイターではない」という主張。
※実際ブロックするのは逆効果であり、AI推進派に有利となるため拡散したがる人こそ怪しいという説もある。
- 人間の手で作られたものとAI生成物との区別がつかず騙されたように感じる、 AIの能力が人間と同列に扱われることへの生理的な不快感。 (参考:pixiv百科内自作発言)
- 絵が描けることで特別扱いされていた立場を、AIに奪われると感じ自尊心が傷つけられた。
- AIによる迷惑行為の被害者になった(なるかもしれない)
- 無断で自身の著作物をi2iされる、自身の絵柄や声や容姿を許可なくAIで模倣された、なりすましを受けた。
(自作自演や当たり屋のようなケースも存在)
- 自身の著作物でなく、好きな絵師・声優等がそれらをされることを嫌がるタイプも存在する。
- 新技術が犯罪に使われるなど、社会情勢悪化への懸念
- ただし警視庁はAIで防犯や捜査を行っており、郵便番号の文字認証は最古の人工知能であるため我々の生活にコンピューター技術は知らずのうちに浸透しているため線引きが難しい。
- AIにイラストレーターの仕事が奪われるのではないかという懸念
- この主張は19世紀初頭において発生したラッダイト運動と比較される。
- サービスの利用規約を読まない、読んでも規約の方がおかしいと開き直る自己中心的思考
反AI活動の発端
日本における昨今の反AI活動はAIユーザーへの誹謗中傷から始まった。
2022年7月31日、ゲームクリエイター852話氏がツイッター上で
Midjourneyβで生成したAIイラストと共に
「AIで自動生成した画像 一切加筆と加工をしていない直データ やばい 本当にやばい 廃墟イラスト完全に勝てない 廃業です 神絵が1分で生成される 参った #midjourney」
と投稿し話題となった。これに絵師を中心に「絵師が廃業するわけがない」と激しい反発が起き、この件以降852話氏がAI生成物を投稿するたびに反発が起き、2022年9月頃に852話氏の自宅を特定した反AIが押し掛け奇声を発しながらドアを叩く警察沙汰になり、852話氏は引っ越しを余儀なくされた、
また仕事用メールやDM、まとめサイト、匿名掲示板等に殺害予告を含む大量の誹謗中傷が投稿されていた。
この頃、他に誹謗中傷を受けたのは、2022年8月10日Midjourneyで生成したAIイラストで『サイバーパンク桃太郎』を発表した作家兼漫画家のRootport氏や、
2022年8月31日イラストレーターのさいとうなおき氏が「AI全般について、そういう技術が現れてしまった以上は時間を戻すことは出来ない。なので、それありきとして表現を考えていかなきゃなって思う。」という投稿など、
画像生成AIに初めて触れたクリエイターがAIの能力に驚愕し、クリエイターの未来について「絵師中間層(プロ絵師とアマチュア絵師の中間)は消滅する」「クリエイターはAIに代替えされる」など
悲観的な見解を寄せた事に反発する形で誹謗中傷や人格批判が行われた。
2022年の画像生成AI初期は、「AI使用者が絵師を馬鹿にしている」「AIが絵画の制作を完全に代替することはあり得ない」というのが反AIの論調だった。
確かに2022年初頭ごろの画像生成AIは未熟であり、クリエイターがAIによって置き換えられるという見方は難しいとされていた。
反AIの活動
反AIの事件に関しては、長くなったため別記事反AIによる事件一覧にて記載する。
ここでは、まっとうな手段で行動しているもののみを記載する。
反AIの問題行動
反AIの事件に関しては、長くなったため別記事反AIによる事件一覧にて記載する。
ここでは、まっとうな手段で行動しているもののみを記載する。
外部サイト
日本人クリエイターが持ちがちな"自身の生み出す著作物に対する極めて独占的かつクローズドな考え方"は、自分にとって非常に理解し難いものがある、という話
関連タグ
人工知能 AIイラスト 生成AI 反ロボット主義グループ 正義マン
フェミニスト共通点が多い。
絵柄パク…法的に問題がなくとも、「他者と絵柄が似る・他者から絵柄を取り込んで似せる」ことはモラルやマナーの違反であるとする思想であり、「無断での学習」や「絵柄を似せる行為」などを問題だとする反AI思想の祖先と言える概念。生成AI以前から存在した。
反反AI…反AIを良く思わない人