新清士の「メタバース・プレゼンス」 第61回

画像生成AI“児童ポルノ”学習問題、日本では表現規制の議論にも

生成AIの問題から「表現規制」に発展する可能性が出てきている

　実際、生成AIでの児童ポルノに対して厳しい制限を加えている国はあります。特に、欧米圏では日本よりも、基準も厳しく罪も重いようです。

FBIの「生成AIや類似のオンラインツールによって作成されたCSAMは違法である」とする告知文

　3月末に、米連邦捜査局（FBI）は、「生成AIや類似のオンラインツールによって作成されたCSAMは違法である」とする警告を発しています。

　FBIが例示しているケースの一つは、2023年11月に、ノースカロライナ州の児童精神科医が、未成年者の性的搾取と、AIを使用して未成年者のCSAM画像を作成した罪で、40年の禁固刑と30年の監視付き釈放の判決を受けたものが挙げられています。未成年者のシャワーシーンなどを撮影したことなども罪として問われていますが、AIに関する部分では、ウェブベースのAIアプリケーションを使い、着衣した未成年者の画像を児童ポルノに改ざんし、そのデータを所持していたことが罪として問われたようです。

　日本の児童ポルノ禁止法は、18歳未満の性的画像を製造・公開し、性的好奇心を満たす目的で所持することを禁じています。そこでは児童が実在することが条件であるため、生成AI単体で生成されたものは、原則対象外と考えられています。上記のノースカロライナ州の事件と類似ケースが日本で起きた場合、実在の児童がいるため対象となると考えられます。

　しかし、生成AIはいま、写真かどうか判別がつかないレベルの画像が作れる段階に入っており、FBIの告知では「写実的な児童ポルノ画像を生成した場合にも対象となる」ということが明確に書かれています。

　一方で、日本では「児童の権利を擁護することを目的としている」ため、実在の児童を撮影した写真やビデオなどが対象となり、マンガやアニメなどの創作物は対象ではないとされており、その規制範囲には国ごとに違いがあります。

　ところが、この考え方の違いを一気に詰めて、日本の水準を欧米水準の厳しいものへと変えようという動きが出ているようです。

　昨年11月、読売新聞は「生成ＡＩで児童の性的画像、国内大量投稿受け「規制必要」７割…ＮＧＯ調査」との記事を公開しました。その根拠となっているのは、NGO「チャイルド・ファンド・ジャパン」が行った世論調査でした。しかし、この報道は少し恣意的な部分があります。

「チャイルド・ファンド・ジャパン」による調査より

　アンケートでは、「AIが作成する性的表現の含まれるコンテンツ」への規制に賛成する割合は71.9%ですが、マンガ・アニメ等を想定していると考えられる性的表現を含む「児童の実写ではないコンテンツ」の規制は75%、「非実在の児童をモデルとした空想コンテンツ」についても規制すべきという回答が68.9％とほとんど違いがありません。

　このNGOは生成AIだけを問題視しているのではなく、“現在の児童ポルノ禁止法では対象となっていない範囲”も含めることを求めているのです。同団体は、イギリス教会を組織のバックボーンに持つ団体ですが、日本の表現規制に英国法水準の厳しさを求めているようです。英国の基準では、日本のマンガやアニメによる表現であっても、CSAMに分類され規制対象になるようです。

　山田議員は前述の動画チャンネルのなかで、昨年12月に開かれたG7茨木水戸内務・安全担当大臣コミュニケで、不穏な一文が追加されていると指摘しました。

　「AIが生成した児童の性的虐待コンテンツの増大する危険はまた、法執行機関に過重な負担をかけ（略）当該加害者を法の裁きにかけるのを遅らせる可能性があることで、児童にとって重大な安全上の課題をもたらす」という一文です。

　これは、生成AIによって、生み出されるCSAMが多いため、生成AIかどうかを判断するのに負担がかかるので、区別なく規制しようという意味に受け取れるということのようです。

「山田太郎のさんちゃんねる」2024年4月3日放送分より

　山田氏は、「AI関係なく、児童ポルノはそもそも違法なのだけど、すでに整理されている（マンガ・アニメなどの）非実在のもののを、AIをどうするのかをすっ飛ばして、規制すべきという議論が起きている」と言います。表現規制の問題は世論調査によって決めるべき性質のものではなく、科学的な事実に基づいて考えるべきだと。自分が見るのが不愉快なものは、全部規制しようという動きへと広がりつつあると、今の規制がどんどんと拡大につながりかねないことに警鐘を鳴らしています。

　生成AIのCSAM問題は、問題点が解決されつつある学習・開発段階のものと、今広がりつつある生成・利用段階のものとに分けて理解する必要性があります。いま日本で大きな問題として認識されつつあるのは後者の議論で、日本での表現規制の範囲を広げようとする動きが進みかねない可能性が出てきています。

筆者紹介：新清士（しんきよし）

1970年生まれ。株式会社AI Frog Interactive代表。デジタルハリウッド大学大学院教授。慶應義塾大学商学部及び環境情報学部卒。ゲームジャーナリストとして活躍後、VRマルチプレイ剣戟アクションゲーム「ソード・オブ・ガルガンチュア」の開発を主導。現在は、新作のインディゲームの開発をしている。著書に『メタバースビジネス覇権戦争』（NHK出版新書）がある。

※追記：「LAION」の記述について追記しました。（4月16日12時12分）