子どもも「加害者」?　急拡大「性的ディープフェイク」の実態

　生成AI（人工知能）を悪用し、実在する子どもや成人女性などを性的に加工した画像や動画「性的ディープフェイク」が国内で急拡大している。気づかぬうちに自分のヌード画像が作成され、本名や住所、学校名までもが同時にさらされることもある。子どもたちを被害者にも「加害者」にもしてしまう、生成AIがもたらす被害の深刻な実態とは。

　インターネット上をパトロールし、プラットフォーム事業者や警察などに通報しているボランティア団体「ひいらぎネット」の永守すみれ代表はパソコン画面をスクロールしながら、険しい表情を見せる。学校行事の集合写真で女子生徒だけが全員裸に見えるように加工されたものや、卒業アルバムの写真の顔から下が性的に加工されたものなど、大量の性的偽画像・動画が交流サイト（SNS）上に投稿されている。

　学校行事写真は撮影業者が専用サイト上に掲載し、家庭ごとに購入したい写真を選択するシステムを採用している学校が多く、その画像も流用されているとみられる。ネット上では「学校ごとの販売サイトのログインIDとパスワードを交換しよう」というやり取りもあるほどだ。

　これまでにもあった「アイコラ」のような、顔画像とポルノ画像を合成する性的偽画像では、編集にある程度知識や技術が必要だったが、今では生成AIが組み込まれたアプリやサイトで画像をアップロードするだけで数十秒程度でできてしまうようになった。作成のハードルが低くなってしまったことも相まって、被害は急拡大している。

　デジタル性暴力などの被害者を支えてきたNPO法人「ぱっぷす」（東京）では、約半年前から性的ディープフェイクについても被害者が相談を寄せるよう積極的な呼び掛けを始めた。ある被害者は、学校名とともに自分の性的偽画像が拡散されたことで「学校の前で知らない人が待っているのでは」という恐怖から、登校ができなくなってしまったという。金尻カズナ理事長は「被害者にとっての恐怖は計り知れない」と話し、被害に遭った場合は相談するよう呼び掛ける。ぱっぷすへの相談は電話（050・3177・5432）、メール(paps@paps-jp.org)。【町野幸】