生成AIで作成のわいせつ画像 販売した疑い 4人逮捕 全国初摘発

逮捕されたのは、愛知県に住む小売業の水谷智浩容疑者（44）や、埼玉県に住む会社員の菅沼貴司容疑者（53）ら20代から50代の合わせて4人です。

警視庁によりますと、4人はそれぞれ去年10月、生成AIを使って作成した女性のわいせつな画像をポスターにして、インターネットのオークションサイトで複数回販売した疑いが持たれています。

無料で提供されている生成AIのソフトに、ネット上にある大量の画像を学習させたうえで、「脚を開く」などとポーズを指示することで、実在しない成人女性の裸に見える画像を作成していたとみられています。

ポスターは、「AI美女」などとうたって1枚数千円で販売され、水谷容疑者は、およそ1年間で1000万円余りを売り上げていたということです。

調べに対し、いずれも行為を認め、このうち水谷容疑者は、「ポスター販売は利益率が高いと知って始めた」などと供述し、菅沼容疑者は、「ポスター販売を事業の1つにしようと思い、作成方法は独学で学んだ」などと供述しているということです。

「ディープフェイク」と呼ばれるAIを使った技術で作成した実在する人物や架空の人物の性的な画像がネット上に氾濫しているとして課題となっていますが、警視庁によりますと、生成AIで作成したわいせつ物の販売が摘発されるのは全国で初めてだということです。

「ディープフェイク」と呼ばれるAIを使った技術で作成した性的な画像をめぐっては、おととし、陸上の女子選手の画像を裸に見えるように加工しSNSに投稿したとして、男子大学生が名誉毀損の疑いで書類送検されるなど、これまでにも摘発されたケースはあります。

今回の事件では、生成AIを使って作成した実在しない成人女性の画像について、警視庁はわいせつ物だと認定し、初めての摘発となりました。

一方、生成AIで作られた子どもの性的な画像をめぐっても規制のあり方が議論になっています。

児童ポルノ禁止法では、18歳未満の子どもの性的な画像の製造や提供などを禁止していますが、「ディープフェイク」の画像について、法務省は、作成のもとになった写真などに写った子どもが実在することが確認されれば、児童ポルノ禁止法での規制の対象になり得るという見解を示しています。

今月1日に一部が改正、施行された鳥取県の青少年健全育成条例では県内に住む18歳未満の子どもの顔写真をAIの技術でわいせつな画像や動画に加工したものを「児童ポルノ」と規定し、その作成や他人への提供を禁止しています。

各国でも摘発や法規制は強化されていて、ユーロポール＝ヨーロッパ刑事警察機構は、ことし、AIで生成された性的虐待を受ける子どもの画像を閲覧できるサイトを運営した疑いがあるなどとして、19か国で合わせて25人を逮捕したと発表しています。

画像は人工的に生成されたもので、実在する子どもの被害者はいないものの、子どもを性的搾取の対象にすることを助長していると指摘し、取締まりに踏み切ったということです。

インターネット上の表現をめぐる問題に詳しい金沢大学法科大学院の長瀬貴志教授は、今回の摘発について「新しい技術が出てきて便利に使える一方で、悪用されることも当然あり、生成AIも例外ではないことを明らかにした」と指摘しました。

何が「わいせつ」にあたるかは、憲法が保障する表現の自由との関係でこれまでも議論されてきたといい「生成AIでわいせつなものを作成したと認定したのは、理論的に十分にあり得る話で、今後も新たな技術の特徴を踏まえて、表現の自由との関係などを議論していくことが重要だ」と話しました。

また、生成AIを使って作られた子どもの性的な画像については、実在する児童の保護を目的に制定された「児童ポルノ禁止法」の適用が難しいと指摘し、規制のあり方の議論を急ぐべきだとしています。

長瀬教授は「児童ポルノは実在する児童を前提にしていてAIで作成された架空の児童については適用外になっているのが現行法上の課題として指摘されている。画像に描かれているのが実在する子どもかどうかという判断に手間を取られると、本当に被害を受けた子どもを助けられないこともあり得るので、一見して実在するように見える子どもの画像については何らかの規制が必要ではないか。表現の自由など、これまで議論されてきた内容を尊重しながら、時代の変化にあわせて法規制や自主規制の議論をしていく必要があると思う」と話していました。

城内科学技術担当大臣は、閣議のあとの記者会見で「悪意を持ったAIの活用は望ましくない行為で、既存の法令にのっとり適正に対処されるべきだ。今の国会に提出しているAIの活用などに関する法案では、司令塔機能を強化し、内閣府が関連する情報の収集や調査などを実施することとしており、政府全体で課題に迅速かつ着実に対応したい」と述べました。