生成AI技術でつくる未成年者の性的ディープフェイク
――では、コミュニティーの管理者は、どういう人たちなのでしょうか？
詳しくはわかりません。
単に性的画像や動画を集めたいだけなのかもしれません。ただ、中には有料制にして、より過激なコンテンツに誘導するものもあり、ビジネス目的でやっている場合もあると思います。あるいは、両方を兼ねているのかもしれません。
――永守さんたちは、2020年からネット上をパトロールし、デジタル性暴力防止の活動をされています。最近の傾向はありますか？
ここ1～2年で、生成AI技術でつくる未成年者の性的ディープフェイクが急速に増えています。以前はヌードや水着など静止画しかつくれませんでしたが、今では性的行為をしている動画まで簡単につくれるようになりました。また、卒業アルバムや学校行事の写真が悪用されるケースも散見されます。
――これらを取り締まることはできないのでしょうか？
コミュニティーに参加しているだけでは罪に問えません。逮捕された名古屋市などの教員たちは、コミュニティーに参加しただけでなく、ポルノ動画や静止画を所持（共有）したことなどから逮捕されているのです。
私たちは、制服などから被害者の学校を特定できる可能性があるデジタル性暴力を見つけると、プラットフォームや警察に通報しています。今、私だけでも週に1件ほど警察に通報しています。
ただ、私たちは第三者にすぎないので、私たちからの通報だけでは捜査ができない事例も少なくありません。しかし、後に学校へ通報する際に「警察にも相談済みです」と言えるよう、警察にも通報しています。
日本で児童ポルノは野放し状態
――JFAの影山氏の事件など世界では、児童ポルノに対する取り締まりが非常に厳しいことがわかります。一方、日本では、こうしたコミュニティーがなぜ野放しになっているのか不思議です。
プラットフォームや警察が何もしていないわけではありません。ただ、技術的な抜け道と、法的な判断の難しさがあると思います。
特に大手のプラットフォームは、アカウントを凍結したり投稿を削除したりしています。しかし、新しいアカウントをすぐにつくれてしまうため、抜本的な解決に至りません。
また、16万人のメンバーがいるXのコミュニティーには、盗撮や未成年の被害画像や動画と同時に、本人が同意したポルノも大量にあります。こうしたコミュニティーや販売サイトの中には、「未成年はダメ」と掲げている場合もあり、被写体が本当に18歳以上かどうか、画像や動画だけで判断するのはほとんど不可能です。
