AIの発展が見せた新しい闇　自動生成ムービー「Deepfake」はいかにして生まれてしまったか

Deepfakeとは？

「アイコラ」という言葉を覚えている読者は多いだろう。

アイドルの顔写真とポルノ画像をコラージュ（合成）したフェイクポルノ画像の一種で、2000年代前半に大量に出回り、多くの芸能事務所がそれらの撲滅に躍起になった。

当時は「職人」と呼ばれる人々が暗躍し、その量産に一役買ってきたが、今はその役をAIが担っている。それが、いま問題になっている「Deepfake」だ。

Deepfake は、ある人物のさまざまな写真をAIに読み込ませて作られる偽動画のこと。2018年3月に爆発的に広がったインターネットミームで、たとえば「どんな映画にもニコラス・ケイジが出演している」というような動画が作られた。

（video:Usersub/YouTube）

念のために伝えておくと、これはニコラス・ケイジの映画出演シーンを繋げた動画ではない。ニコラス・ケイジの顔を学習したAIが、「アイコラ」の要領で映画の登場人物の顔をニコラス・ケイジに差し替えて動かしているのだ。

そして、はじめに「アイコラ」の例をとったように、これがポルノに使われるまでに時間はかからなかった。

 

AIの利点がそのまま問題を深刻化させているDeepfake

この技術を使えば、どのような人のどのような動画も作ることができる。もちろんポルノも。

米国では早くもこれが社会問題化している。作られたビデオがプライベートビデオではなく商品としてのポルノビデオのように見えることから、一部の社会学者からは「リベンジポルノよりも被害が大きい」と規制を呼びかける声もあるほどだ。

しかし、作り方が単純であるだけに、何を規制すればフェイクポルノを防ぐことができるのか分からないことが、この問題をさらに根深くしている。

AI技術の素晴らしい点は、どんな人でもそれを扱うことができるということだ。SFの世界に登場する「マザーコンピューター」のような全知全能の存在を作ろうとするなら話は別だが、ある特定分野でのみ活用されるAIなら、一般的なコンピューターで十分に動かすことができる。

実際、AIを利用したニューラル翻訳はオフラインのスマホでも使うことができることからも、それは明らかだろう。

 

いま、Deepfakeを見抜くたった一つの方法

このDeepfakeの問題がことさら重要視されるのは、ポルノだけでなく政治にも影響を与えかねないからだ。

たとえばこの動画を見てほしい。

（video:Matthias Niessner/YouTube）

これは、ドイツの科学者によるDeepfakeの実験動画だ。

左下にあるトランプ大統領の写真を素材に、左上の人物の動きをトレースし、右に動画が出力されている。これはあくまで実験用動画だが、Deepfakeの素材に政治家を使うと、どんなことが可能になるかは想像に易いだろう。

最悪の展開 ――たとえば自国の最高権力者が世界中に対して宣戦布告をし、それが信じられてしまうというような――を防ぐために、私たちが知っておくべき対抗策をニューヨーク州立大学オールバニ校の研究チームが発表している。

それは、意外なほどに単純なことで、Deepfakeで作られた動画は「まばたき」をしないのだそうだ。

というのも、Deepfakeは「大量の顔写真データ」をもとにした合成技術なので、人が写真として残さない「目をつぶった顔」がデータにないから。この記事で取り上げたニコラス・ケイジとトランプ大統領の動画も、注意深く見ればまばたきをしていないことに気付けるだろう。

他にも、呼吸や微妙な身体の揺れなどもDeepfakeでは見られない。これはAIによる自動生成の（今のところの）限界がここにあるということを示している。しかし、すべての技術はその不完全性を補完する方向に成長する。

この方法でDeepfakeを見抜けるのも時間の問題でしか無いだろう。そのとき、私達が信じてもいいものは、いったいどこにあるのだろうか。