xAIのAIアシスタント 「Grok」をめぐり、実在の人物の画像が本人の同意なく性的に加工される事案が相次ぎ、国際的な問題となっている。
日本では、漫画家がアイドルグループSTU48のメンバーの写真をビキニ姿に加工したことが批判された。
海外でも、K-POPグループ・TWICEのモモさんら芸能人や政治家、SNSに写真を投稿していた一般人など多くの人の写真がビキニ姿などに加工されており、被害は未成年にも及んでいる。
Netflix配信のドラマ『ストレンジャー・シングス 未知の世界』に出演した俳優で14歳のネル・フィッシャーさんも、写真がビキニ姿に加工されたと報じられている。
なぜビキニ画像が急増したのか
この機能により、元の投稿者の許可なしに、編集ボタンを押すだけで、あらゆる画像を即座に編集できるようになった。
Grokには以前から「スパイシーモード」と呼ばれる画像を性的な形で加工する機能があった。
しかし新機能により、誰もが簡単かつ無料で、画像を小さなビキニを身につけた姿や、性的なポーズなどに加工することが可能になった。
この機能が公開された後、Xには「ビキニにして」などの指示のもと、女性や子どものビキニ姿や、スカートを取り除いた写真、性的に強調された画像があふれた。
AI検出ツールを提供するコピーリークスによると、画像から衣服を取り除くトレンドは、アダルトコンテンツのクリエイターたちが新機能を使い、宣伝目的で自らを性的にアピールする画像を作るようGrokに求めたことから始まったと見られている。
しかし、他のXユーザーらもすぐに「ビキニを着させて」などの指示を使って同意なく他人の性的な画像を生成するようになったという。
マスクさんは当初、このトレンドを面白がる姿勢を見せており、俳優ベン・アフレックさんの画像を自分のビキニ姿に変えたり、トースターにビキニを着せた画像に涙を流して笑う絵文字を返信したりしていた。
しかし、画像に対する世界的な批判が高まったことで、その態度を改めざるを得なくなったようだ。
マスクさんは4日、「Grokを使って違法なコンテンツを作成した者は、違法コンテンツをアップロードした場合と同じ結果を被ることになる」と投稿した。
またGrokも1日、未成年と見られる若い女性に性的な装いをさせたことは、xAIのポリシーとアメリカの法律に違反すると謝罪した。
さらに4日には「児童性的虐待のコンテンツ（CSAM）を含む違法コンテンツに対し、削除やアカウントの永久停止、必要な場合は各国政府や法執行機関との連携などの対応をとります。Grokを使用もしくは指示を出して違法なコンテンツを作成した者は、違法なコンテンツをアップロードした場合と同じ処分を受けることになります」という声明を投稿した。
しかしその後も、XにはGrokで生成された女性の性的な画像が投稿されている。
深刻化するディープフェイク
これまでも、女性の写真をアップロードすると服を脱がせることができる「ヌード化アプリ」が問題になったことがある。
しかし対策が追いついていないのが現状で、AIを使って画像を加工・生成するディープフェイクは年々深刻化している。
サイバーセキュリティ企業ディープストライクによると、ディープフェイクは爆発的に増えており、2023年の約50万件から、2025年には約800万件へと急増した。
これは年間900%の割合での増加で、その多くに同意なしに作成された性的な画像が含まれているという。
セキュリティ企業ホームセキュリティヒーローズは2023年の報告書で、オンライン上のディープフェイク動画の約98％がディープフェイクポルノで、ターゲットの99％は女性だとしている。
「彼女をビキニにして」と打ち込むだけで、同意なしの性的画像をSNS上で作ることを可能にしたXの新機能は、ディープフェイクの参入障壁を大きく下げた。
その一方で、規制を求める声は高まっている。SNSには「これは性加害」という批判や「本人の同意なしのヌードAI画像の生成は違法であるべき」という意見、「自分の写真を投稿するだけで被害者になるのはおかしい」という指摘が投稿されており、画像の加工や編集をしないようGrokに指示している人もいる。
調査に乗り出した国も
Xの新機能は規制当局からも厳しい目を向けられており、複数の国の政府が調査に乗り出した。
欧州委員会の広報担当者は4日、Grokが未成年を含む少女の性的な画像を生成している問題を「非常に深刻に受け止めており調査を行なっている」と述べた。
フランスの検察当局は、Grokによって生成された性的なディープフェイクがXで拡散している問題について調査を行うとポリティコに明かしている。
インドの電子情報技術省は1月2日、Grokの「広範囲にわたる技術や手続き、ガバナンスレベルの見直し」を行うようXに指示した。
マレーシアの通信マルチメディア委員会（MCMC）は3日、Xで女性や未成年の性的な画像が作成されている問題について調査しており、同社の代表者を呼び出す予定だと発表した。
イギリスの放送や通信事業を規制・監督するOfcom（放送通信庁）も5日、「XおよびxAIがどのような措置を講じているのかを知るために緊急に連絡を取った」と発表した。Ofcomは、同社の回答を踏まえて正式な調査が必要かどうかを判断するとしている。
