「生成AIには問題がある」と知っている人は多いでしょうが、「普通の問題」ではなく「実はすごく大きな問題」と伝えるための簡易的な一覧です。

生成AIの問題一覧

1. 著作権侵害

XのGrokはピカチュウや安倍元首相を当たり前のように出してきますが、許可を取っている訳ではありません。「普通に使った」場合でも単に知名度がない誰かの絵や写真だから著作権侵害に気づかないだけです。

• AIの訓練に用いるデータセットに、子どもたちの写真が無断流用されていた | WIRED.jp

2. ディープフェイク

生成AIは偽の災害写真や偽の大統領演説などを簡単に作り出せます。そのため緊急時に人々を混乱させたりフェイクニュースや陰謀論を蔓延させます。

• 偽の救助要請など能登半島地震の偽情報 | NHK | 令和6年能登半島地震

3. ディープフェイクポルノ

卒業アルバムの顔写真などから誰でも簡単にフェイクポルノが作れるため、自分や身近な人間が被害者/加害者になり得ます。

• 卒業アルバムの同級生を裸に 子どもも加害者？画像加工の実態 | NHK

• 米ディズニーの来場者を狙う「小児性愛者」、生成AIの悪用で逮捕

4. 情報汚染問題

偽の生物写真や偽の歴史資料(浮世絵など)を簡単に大量生産できるため、「いかがでしたか」ブログの比で無いほどネットにジャンク情報を蔓延させており、Wikipediaすら脅威にさらされています。

• 浮世絵風の絵を出力できる生成AI - PC Watch

• 英語版Wikipedia、新規記事の5％がAI生成　米国の研究者らが調査　AIが生成した記事の特徴とは？：Innovative Tech（AI+） - ITmedia AI＋

5. 詐欺など犯罪の増加

わずか数秒の音声から本人そっくりの声を作れるため、特殊詐欺が増加しています。企業がターゲットにされ40億円の被害を受けた事例もあります。

• ＡＩ生成のクローン音声使ったなりすまし詐欺、「数百万人」が狙われる可能性　英銀行が警告 - CNN.co.jp

• 会議相手はフェイク動画、40億円被害が示す詐欺AIの進化 - 日本経済新聞

6. 電力消費問題

政府広報が「AIの活用により多くのCO2が発生してしまう」と言うレベルで「エアコン(命)かAIデータセンターか」の選択を迫るほど電力を食いつぶします。

• ジェネレーティブAIの進化に潜む「膨大なCO2排出」という不都合な真実 | WIRED.jp

• 2050年、電力奪い合いの夏　AIかエアコンか - 日本経済新聞

画像生成AIの仕組み・問題

画像生成AIには画像データを集めたデータセットが必要です。ネット上から無差別に数十億枚の画像を無許可で集めて作られており、著作権・肖像権の問題があります。更に盗撮や児童虐待など犯罪によって作られた画像も大量に含まれています。
画像生成AIはこれらの画像を組み合わせて画像を作りますが、元になっている画像の数が膨大なだけでなく、ブラックボックス化されているのでどんな画像が含まれているのか判断するのが困難です。そのため例えば盗撮された被害者が「自分の写真が含まれている」と指摘しても開発者が「そんなものは入ってない」と言い張れば追及が非常に困難です。
そのため問題の解決にはデータセット(画像)の開示義務化などが必要です。

なお上記の文章は著作権を放棄するので、自由にコピーして転載して構いません。
このページを紙などに印刷して配布したい場合は以下のQRコードを読み込むとアクセスできます。

関連ニュース:

上記はあくまで簡潔なまとめなので、更に詳細を知りたい方は検索するか下記のまとめページを。