見出し画像

【生成AI】騙されないように…これらは間違ったデマや詭弁です

生成AI関連において、AIを推進する者のデマや詭弁、論点ずらしなどがあまりに多いので作りました。
こういったデマに混乱しないようにご注意ください。

2023/12/1 間違いその10~12を追加。間違いその1に参考リンク追加。取るに足らないデマや嘘を追加。あちこち少しだけ加筆修正。
2023/12/6 間違いその1に無断学習させていない生成AIの出力結果(動画リンクあり)を追加。


間違いその1)自分の絵や写真だけ学習させたAIはクリーンなAIだ

 ⇒自分の絵を追加学習させても、もともと現在配布されてる生成AIソフトの学習データには学習済みの数十億の画像データが入っているのでまったくクリーンではない。海外製の生成AIソフトはこのような著作権問題がクリアされてないものばかりであり、日本製のアプリでも、海外製のSDなどを土台にしていることが多く、例外ではない。
 現在稼働している生成AIソフトには本当に著作権クリーンなものは一つもないと言っていい。(Adobeですら無断利用の画像データがある。)
 商用利用可能と謳う生成AIソフトですら、版権キャラクターが生成できてしまうというお粗末ぶり。(真に受けて商用利用して訴えられたらいったい誰が責任を持つのか??)

■Bing Image Creator(DALL·E 3)がマリオやピカチュウをそのまま出力するから任天堂最強法務部に送る文面をBing AIに生成してもらった


ちなみに無断学習させてない生成AIの出力結果がこちらの動画内にあります↓

・現在主流の生成AI”StablleDiffusion”の学習データセット⇒50億枚以上(無断学習しまくり)
・この生成AIの学習データセット⇒1千3万枚(無断学習なし)

この差を見れば歴然ですが、無断学習しない生成AIというものが実質、どこまで使い物になるかどうかが感覚的に感じられると思います。
オプトインのみで学習データを募りSDのようなクオリティまで上げるというのは絶対不可能とは言いませんが、現状の生成AIではかなり至難の業かもしれません。(今後、もっと少ない学習データでクオリティの高い生成ができる生成AIが開発されれば、可能性はないわけではありませんが。)


間違いその2)絵師がAIイラストよりも良い絵を描けばいいだけの話でなにも問題はない

 ⇒AI推進派のよくある論点ずらし。問題は生成AIは人の作品を勝手に二次利用して生成している事。AIが高い質のイラストを生成できるのは、AIに読み込ませているたくさんの学習元の絵師の絵が素晴らしいからであって、決してAI自体が素晴らしいわけではない。
 生成AIは言うなれば世界中のクリエイターの技術を(合意なく)集結させたものなので、誰であろうともこれに勝たなきゃいけない義務も必要もない。


間違いその3)AIの進化は止められないから受け入れて適応するしかない

 ⇒誰の合意もない搾取により成り立つ生成AIを甘んじて受け入れろと言うには実害が大きすぎる。新作を描いてもすぐ他人に奪われ自作発言をされたり、AIで勝手に絵を改変されたり、その上それらを勝手に売買し収入を得る者までいる。このような状況で絵師は安心して絵をネット上に公開できなくなっており、収入も激減している。
 絵師が絵を公開しなくなったら、絵師の絵に依存している生成AIがどうなるか。その時こそAIの進化は止まるだろう。


間違いその4)生成AIに仕事を奪われるから絵師は文句を言っているだけ

 ⇒生成AIは絵師の絵を勝手に二次利用して学習させて成り立っており、作品を盗まれて勝手に使われて怒るのは当然の権利だ。
「お前のような下手な絵はAIには使われない」と推進派に言われても、AIには「こういう絵は参照しない」という絵を指定でき、そのような絵は低レベルな絵としてタグ付され、プロンプトで参照しないように指定できる。だから絵が下手だからと言ってデータセットに使われていないとは限らない。
そのような盗用ツールを非難することは絵師なら誰であっても当然の権利としてある。


間違いその5)カメラや車、または、デジタルイラストツールや3DCGが導入されたときも反対する者がいた、等(類似するものに産業革命など)

 ⇒推進派のよくある論点ずらし。カメラや車、デジタルイラストツールや3DCGは人のものを盗んで作られてはいないが、生成AIは人の作品(知的財産)を無断で搾取して成り立っている。
 この搾取構造にこそ問題があるのであり、新しい技術に淘汰される事が問題なのではない。
 他人の知的財産を搾取しているからやめろと言っているのに、こう言ったくだらない論点ずらしは問題点のごまかしにすぎず、子供だましであり卑怯の極みである。


間違いその6)生成AIを否定するならGoogle検索も使用してはいけない

 ⇒サイト(URL)を検索するサービスにおける『複製』は適法(著作権法47条の6)

 ⇒サイト上『収集禁止措置』がなされている場合は,検索結果として表示しない『収集禁止措置』の内容=robot.txt・noindexタグ
  (著作権法施行令7条の5第2項) (著作権法施行規則4条の4)

  ■<検索エンジン・検索サービスによる『複製』を適法とする規定>
   https://www.mc-law.jp/kigyohomu/16835/


 ⇒Google検索はコンテンツを表示しているだけだがAIは取り込んだコンテンツを私物化している。

 ⇒検索する方される方両方にメリットがあり検索だけではgoogleに利益はいかない(広告収入のみ)。だが、生成AIの場合勝手に学習される側にはなんのメリットもなく、それどころか有害な事が多い。(イラスト市場が競合している、LoRaで絵柄を学習されて使い回され学習元の絵師には収入がない。
学習元の絵柄を勝手に多くの人に使われ絵柄が陳腐化、AIの絵に見えるなど言われて風報被害、等)

 だから生成AIとGoogleはまったく比較にならない、非常にばかばかしい詭弁と言える。(AI規制派はすべてのAIを否定しているわけではない。)



間違いその7)AIは人間のように学んでいる(AIの学習は人間の学習と同じで否定すべきではない)

 ⇒人間は意図しない限り、生成AIのように指や腕や足の数が間違っている絵は描かない。

 ⇒人間は学習していない新しい絵を産み出すが、AIは学習した画像データにないものは描けない。

 ⇒生成AIのデータセットを作るために未成年者が時給1~2ドル(約150~200円)で有害なコンテンツを区別する非論理的な仕事をしており問題になっている。こういった人間の手がなければAIは成り立たない。
 ■AIの訓練のために… 新興国の10代の若者たちがトラウマになるようなコンテンツにさらされている
 https://www.businessinsider.jp/post-278406


 ⇒人間はAI生成画像をいくら見ても生成AIでいうところのデータ汚染やモデル崩壊を起こさない
  ■生成AIによる「データ汚染」で生成AIが崩壊する   https://news.yahoo.co.jp/expert/articles/89a140ae8a7cc72fd7a68193b5afba64294be79d


 ⇒バナナを知ってる人間であれば1本のバナナを描けるが生成AIは描けない
  ■ジェネレーティブAIが抱える問題を浮き彫りにする「1本のバナナ問題」とは?
   https://gigazine.net/news/20230716-generative-ai-the-lone-banana-problem/


 ⇒言語タスクを学習するために、(生成AIの)ニューラルネットワークは一度に1つの単語ずつ文章を提示され、ゆっくりと一連の流れの中で次の単語を予測するように学習する。これは人間の一般的な学習方法とは大きく異なる。人間の学習のほとんどは「教師なし」であり、与えられた刺激に対する「正しい」反応を明示的に教えられることはない。つまり、与えられた刺激に対して何が「正しい」反応なのかを明示されない。
 例えば、子どもは話し方を指示されることはなく、大人の話し方に触れ、真似をし、フィードバックを受けるという複雑なプロセスを経て学んでいく。
  ■AIは人間のやり方を学ぶと言われているが神経科学者がそれが事実ではない理由を説明します
   https://theconversation.com/were-told-ai-neural-networks-learn-the-way-humans-do-a-neuroscientist-explains-why-thats-not-the-case-183993


 ⇒コーディング GPT を開発した AI 技術者は、AI は基本的に他人のデータを圧縮してリミックスしているだけであることを公然と認めています。
 ■フィルムコンセプトアーティスト、イラストレーターReid Southenさんのツイート

"AI tech bro who developed a coding GPT complains that people stole his code and prompts, then openly admits that AI is basically just compressing and remixing other people's data. Maybe he can develop a Cognitive Dissonance GPT next."
「コーディング GPT を開発した AI 技術者仲間は、人々が彼のコードとプロンプトを盗んだと不満を漏らし、その後、AI は基本的に他人のデータを圧縮してリミックスしているだけであることを公然と認めています。おそらく彼は次に認知的不協和 GPT を開発できるだろう。」


このように、神経科学者やAI技術者までもが「人間とAIの学習は違う」と言っているのが事実です。
これでもなお、人間とAIの学習は同じと言い張る人がいたら、その人はまちがいなく「ただAIが使いたいだけなのでAIを擁護している人」と言えるでしょう。


間違いその8)二次創作(同人)も人の絵を真似しているのだから生成AIも問題ない

 ⇒二次創作にも問題は全くないわけではない。公式のガイドラインを守らない者がいたりもするが、そういう者はバッシングされたり、同人界にはそのような自浄作用が少なからずある。

 ⇒二次創作は公式が嫌だと言えば基本指示に従う者がほとんど。
だが、生成AIは学習元が嫌だと言っても拒否権がなく無理やり学習される。
それはそうしないと生成AIは満足に思ったような画像を生成できないという証拠です。


 ⇒二次創作者は公式の作品のファンであることもあり課金などで還元していることも多い。だが、生成AIは学習元に還元していない。それどころかすべての学習元を把握すらしていない。

 ⇒二次創作の場合、ネット上でファン活動としてファンアートを公開することでそれが公式の作品の宣伝になっているが、生成AIの場合、人の作品や公式の作品を直接AIに読み込ませ二次利用していることが問題

 ⇒生成AIの場合、意図的に二次利用しようと思わなくてもそもそも学習データに著作権のある画像を無断で大量に使っているため知らない内に既存の著作物そっくりの絵が生成され著作権侵害してしまうことが多々ある。

 ⇒生成AIの界隈では何か問題が起きてもルールもなく自浄作用もない。学習元へのリスペクトがなく、むしろ学習元である絵師に嫌がらせなどの攻撃を繰り返しており、リスペクトは一切なく、常識も通じない。

AIイラスト界隈と同人界隈は似ても似つかない。


間違いその9)生成AIを規制するとその他の表現まで規制される

 ⇒生成AIを規制するとその他の表現(成人向け同人誌など)までが規制の煽りを受けて表現が規制されるのではないかという声がありますが、それはAIを推進したい議員など、AIを推進したい人達が表現を人質にとってそう言っているだけです。
今度、このような発言をしている者を見たら、その人のプロフやそれまでの発言をよーく見てください。たいていどこかしらでAIを賛辞しているか、使いたがっていて、他の人の推進寄りな意見をリポストしていたりします。


間違いその10)生成AIに反対(懸念)しているのは〇〇だけ

例)
生成AIに反対してるのは絵の下手な絵描き初心者中級者だけ
生成AIに反対してるのはR18同人作家だけ、等

今年8月、大きな団体から生成AIに関して危惧する声明が出されました。
その団体は大手テレビ局やラジオ局などが参加している協会から、多くの出版社が参加している雑誌協会など、全国規模になります。
この事実を見れば、生成AIを懸念している企業や団体は全国規模であり、反対(及び懸念)しているのはごく少数というのは全くの嘘で詭弁だということがわかるでしょう。


間違いその11)データセットに画像は保存されていない

驚いたのですが、いまだにこの詭弁を使う者がいるそうです。
詳細は私の描いたこの漫画の5ページ目にも詳しく描かれています。
これを見ればどういう事なのかはっきりとかわかると思います。
結局、生成AIのトレーニングに画像を使う時に無断複製していますので、他人の絵を無断利用しているということはゆるぎない事実です。


間違いその12)生成AIを批判してるのは日本だけで海外では支持されてる

 生成AI関連の記事を普通に追っていれば英語の記事がかなり多い事に気付くと思います。生成AIのリスクを訴える記事や、AI企業が訴えられた訴訟の記事、データセットの中にある非倫理的な画像に関しての記事など、こういった問題を扱った記事は半年前は海外の記事の方が圧倒的に多く、日本の記事は少なかった。海外の方が著作権などの権利に敏感に反応し、生成AIを問題視しているという証拠でしょう。
 ちなみにXでも生成AIを批判するリプは日本のそれよりも圧倒的に多い…それなのに海外より日本の方が批判的という人は、ひょっとしたら、単に英語が読めないからまったく目に入ってないだけという可能性がある。

 アメリカのコミケでAI絵師が叩きだされた件はあまりにも有名

”Say no to AI generated art in the exhibitors and artist alley sections of conventions”
「コンベンションの出展者やアーティストアレイのセクションで AI が生成したアートには「ノー」と言う」

このツイートには実に17万以上のいいねがついている。
コミケにAI絵師が続出し、事実上AI絵師は出禁になったそうである。

海外の方々の方が日本の漫画・アニメ・イラストなどの文化に対しても
大切にする気持ちとか愛情が強い気がします…↓


 海外では生成AIを使うことは、クリエイターを搾取する搾取構造に賛同しているとみなされてるらしい。

↑このポストの「自称オタク議員」は、生成AIに反対する声が上がり批判が殺到すると「AIを否定するなら同人誌もダメって事になる」と同人界を人質に取り、AI批判の声を「絵の初級者中級者のたわごと」とはっきりと明言して握りつぶしました。 
国はいつまでたっても安全対策に向かう様子はなく生成AIを推進しようとしています。
生成AI関連では、日本ほど甘い国はない。それが実情です。


↓この日本のアーティストのAI製のMVを公開したポストのリプ欄や引用ポストには海外からの批判、AI使用をやめてほしいという意見が殺到した。



その他、取るに足らないデマや嘘など



■生成AI規制派(慎重派)や絵師たちがこれまで一貫して訴えてる主な事

・人の絵や写真などを生成AIのデータとして勝手に使うな(勝手に使えないように法規制しろ)
 ⇒無断学習(一方的な搾取)をするな
 ⇒市場を破壊するな
 ⇒人に迷惑をかけるな

・データセットの中身に問題があり、それをクリアしてないのにAIを使うな
 ⇒児童ポルノ、ポルノ画像、戦争の残忍な写真、犯罪被害者の遺体写真、
マンガのページが丸々入っていて見れてしまう、等 NSWFにあたる画像、および著作権侵害になる画像が入っており倫理的に問題がある。

・ディープフェイクを使った詐欺、犯罪などがあり人命にかかわるから政府は安全対策や法規制をしろ
 ⇒フェイクポルノ、児童ポルノ、セクストーション、その他詐欺事件の増加が容易に予測できるのにそれでも安全対策をとらず推進しかしない政府は無責任と言わざるおえない。



最後に
この記事はいろんな人の協力でできました
みなさん、いつも助けてくれてありがとうございます。<(_ _)>

↓署名活動中!賛同者10000人突破!!賛同お待ちしてます。


この記事が気に入ったらサポートをしてみませんか?

ピックアップされています

要再読

  • 121本

コメント

1
なな
なな

採用現場の求職者と会社側の対立した構図と似ている。お前みたいな下手なエンジニアはいらない的な

「お前のような下手な絵はAIには使われない」と推進派に言われても、AIには「こういう絵は参照しない」という絵を指定でき、そのような絵は低レベルな絵としてタグ付され、プロンプトで参照しないように指定できる

ログイン または 会員登録 するとコメントできます。
イラストレーター(過去に雑誌のコーナーのイラスト等、現在はがん療養中)、自創作を愛する漫画描き
【生成AI】騙されないように…これらは間違ったデマや詭弁です|きゃんちゃんと私
word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word

mmMwWLliI0fiflO&1
mmMwWLliI0fiflO&1
mmMwWLliI0fiflO&1
mmMwWLliI0fiflO&1
mmMwWLliI0fiflO&1
mmMwWLliI0fiflO&1
mmMwWLliI0fiflO&1