TBS NEWS DIG Powered by JNN

生成AIで、実在する女性芸能人を模したわいせつな画像を作成し、インターネットのサイトで販売したとして、会社員の男が逮捕されました。 【写真を見る】わいせつ電磁的記録媒体陳列の疑いで逮捕された横井容疑者 ■「ネット上の動画や記事で学んだ知識で」“わいせつ画像”AIで生成し販売か 15日、秋田市の会社員・横井宏哉容疑者（31）は、俳優の女性3人に似せたわいせつ画像を生成AIで作成し、インターネットのサイトで公開した疑いで警視庁に逮捕されました。 こうした実在する人物の偽の性的な画像や動画は「性的ディープフェイク」と呼ばれ、大きな社会問題になっています。 横井容疑者が作成した性的ディープフェイク画像は2万点にのぼり、女性芸能人262人に酷似したものだといいます。 取り調べに対し、横井容疑者は容疑を認めているということです。 横井容疑者 「閲覧者の反響が大きく、人気が出て、多くの収益が見込めると思った」 横井容疑者は、海外のサイトを通じて1ドルから100ドルまでの月額制で画像を公開。これまでの売り上げは約120万円にのぼるとみられています。 性的ディープフェイクを作成した手口について、横井容疑者は「インターネット上の動画や記事で学んだ知識で作りました」と供述しています。 インターネットで検索してみると、“AI美女作り方”といった作成マニュアルの動画がたくさん公開され、AIで生成したわいせつ画像も多数出品されていました。 ■性的ディープフェイクは誰もが加害者・被害者に…「法整備が技術に追いついていない」 横井容疑者が犯行に使ったのは、スマホと生成AIの無料ソフト。 警察庁によりますと、性的ディープフェイクに関する相談や通報の件数は、去年、全国で100件を超えたということです。 性的ディープフェイクの問題の一つは、誰もが簡単に被害者にも加害者にもなりうること。しかし、「日本は法整備が追いついていない」と専門家は指摘します。 三井物産セキュアディレクション　福田美香さん 「特に生成AIは、本当に日に日に進化していくもので、1週間後には考えられなかったような技術がどんどん出てきている。法整備がなかなか技術に追いつかないというのが現状」

被害に遭わないための対策は… 三井物産セキュアディレクション　福田美香さん 「ディープフェイクポルノに関しては、いろいろな対策が考えられていて、個人の顔がはっきり単体で写るような写真をSNS上に広く公開しない、公開を限定するとか、そういった対策が考えられる。個人としても、こういった脅威をまず知っておくことが重要になってくる」