表題の通りの話で、ここ最近sora2で作ったフェイク動画が増えてきたというメモ。例えば次のような投稿。
「ポッピンココ@Coco2Poppin」はデマも多く流すインフルエンサーの一人だが簡単に動画に釣られてしまっていた。動画内には「sora」という透かしがあるので（soraの透かしを入れるツールもあったりするのだが……）、この動画がsoraで作られたAI動画である事がわかる。ただこのsora透かし以前の問題として、元動画では字幕が無茶苦茶だったりして、これを「テレビ生中継」と思うのは残念としか言いようがなかったりするのだが。そもそもこんな番組自体存在しない。
https://www.tiktok.com/@aiffusion/video/7558103099764772114
実際、この動画そのものはAIであることはわかりやすくツッコミも多かったのか今現在は投稿が削除されていた。また次の様な動画も拡散していた。
https://x.com/penpen_popnews/status/1979408113267806401
コミュニティノートにある様にredditではAIではという指摘があり削除された動画となる。soraの透かしなどはないが、口の動きの不自然さ、メガホンとの音との関係は指摘されているし、細部や背景に映っている人物を見ると違和感を覚える部分は見える。状況自体の不自然さもあるし、こういったAI動画にありがちな見せたい映像ありきの内容になっている。しかしこの動画は比較的見破るための難易度が高く、AI動画であると認識していない人が多く見える。この様にAIによって作られたフェイク動画に騙されて投稿する人がいる一方、むしろ事実はどうでも良く「動画」という視覚情報による煽動を主眼に置いているのではないかというアカウントも存在する。
https://x.com/chengwanzi/status/1977944309451440236
soraの透かしもさることながら「2040年 山の斜面」と書いてあることから投稿者の「心想事成@chengwanzi」は流石にこれを現実とは認識はしていないだろう。好意的に捉えればメガソーラーを使用していればこの様な事が未来に起きるという警鐘的な動画としての使用と思われる。これだけなら使い様ともいえなくもないが、ただこの投稿をしたアカウント「心想事成」はこれ以外にもAI動画によって誘導をしている。
https://x.com/chengwanzi/status/1974272623648649345
soraの透かしが見えるし、この動画に映っている商品などの文字はおかしく生成AIで作成された事はわかりやすい部類なのだが、どうにもこの動画を事実かの様に真に受けている人が多数見受けられた。なおマクドナルドの動画は英語圏で作成された動画だが、他の動画は日本語圏で作られた動画であるし、次の様に生成AIで動画を大量に作るアカウントたちが今回の動画の出処となる。
https://www.tiktok.com/discover/samuraijonny
https://www.tiktok.com/@kastuono
https://www.tiktok.com/@aiffusion
「猫にごはん」というアカウントはソーラーパネル関連の動画を複数上げているし、今後こういった主義主張、誘導／煽動を伴う動画は増えそうである。生成AIの動画の違和感に見慣れている人間にとってはまだ気づけるレベルな部分はあるが、それもどんどん困難になってきている。最早生成AIによるフェイク動画は今現在のクオリティで多くの人を騙すことが出来ると言えるし、そういった社会が今この時に生まれていると言って良いんじゃないかなと。
