ほほえむクレオパトラに、話しかけてくるチンギス・ハーン――。最新の生成AI（人工知能）技術は、過去の偉人すら色鮮やかによみがえらせます。本物と偽物があいまいになった社会は、どこに向かうのか。フェイク情報とどう向き合うかを研究する国立情報学研究所の越前功教授に聞きました。

「百聞は一見にしかず」　通用しない時代

　――生成AI技術の進化が社会に及ぼす影響をどう見ていますか。

　「百聞は一見にしかず」は、いまのサイバー空間でもはや成立しなくなりました。生成AIによって、写実性の高い偽の画像や映像が、誰でも簡単につくれるようになり、フェイクだらけになっているからです。

　たとえば人の顔。ネット上には高画質の人間の写真が大量に出回っています。カメラ性能や通信技術の向上で、多くの個人が顔写真をSNSにアップするなど、生成AIが学習する生のデータは膨大です。データが多いほど、実際には存在しない「自然な顔」を作り上げられます。

　――「ディープフェイク（偽動画）」のニュースも、よく聞くようになりました。

　「フェーススワップ」という技術は、動画の顔を別人に置き換えてしまいます。偽物だと分からないレベルです。「リップシンク」は、音声に合わせてアニメや映像の口を動かす技術。いずれも、ディープフェイクの元になっています。

　ディープフェイクは2017年、18年ごろに出てきて、問題がたくさん起きました。SNSで顔を偽ってジャーナリストに成りすまして株価操作を図る試みや、ロシアに降伏するよう自国に呼びかけるウクライナのゼレンスキー大統領の有名な偽動画などです。

　21年に米国であった事件では、娘のチアリーディング部のライバルを蹴落とそうとわいせつ画像を作った母が逮捕されました。このニュースにはエンジニアなど専門家は出てきません。ディープフェイクが「コモディティー化（汎用（はんよう）化）」し始めたということです。

「考古学的な大発見！」　全部ニセもの

　――誰でも簡単に偽動画をつくれると。

　20年ごろには「拡散モデル」という技術が出てきました。画像や映像を加工して顔を置き換えるディープフェイクに対し、プロンプト（命令文）の入力だけで任意の画像を作り出せます。

　ポルノ画像と著名人のデータを組み合わせて、プロンプト一つで著名人が裸になったように見える画像も作れます。実際、フリマアプリなどで、生成AIでつくった俳優の裸画像が出品され、売れています。

　――記者は、情報のウラ取りをするために画像や映像などに当たったものですが。

　見るものが信用できなくなってしまった。それは過去の歴史的な写真や画像などでも同じことが言えます。

　フェイスブックを見ると「考古学的な大発見！」という遺跡の映像がたくさん出てきますが、すべて生成AIなんです。これでは、まっとうな学術調査や分析をする人の障壁になってしまう。プラットフォーマーもお手上げ状態。あまりに混沌（こんとん）としています。

　――実際に、生成AIを使った歴史の捏造（ねつぞう）などが問題になっているのでしょうか。

　まだ問題化していませんが、生成AIを使ったプロパガンダ的な歴史改変は、容易に起こりうる状況。まさに「とば口」に立っています。

　過去の画像らしき偽物を作り出すこと自体に、技術的なハードルはありません。一般の人にはまったく違和感が無いものができてしまう。専門家は見抜くかもしれませんが、それらのファクトチェックは拡散しません。

　――偉人が動きだす「おもしろ動画」は、SNS上でも目にします。リアルで驚かされます。

　リンカーンが面白い動きをするようなエンタメ動画だとしても、「ところで、リンカーンは本当は……」などと、誰かが、特定の意図を持った言説を紛れ込ませてくるかもしれません。

　サイバー空間で言説を誘導して人々の思考を微妙に変えることは、戦略上とても重要です。実際にロシアによるウクライナ侵攻では問題になっています。

情報源を書き換え　偽情報を拡大再生産

　――何が起きたのでしょうか。

　ウクライナ侵攻後、ウクライナ国民を名乗るSNSアカウントがたくさんでき、一斉に自国政府を批判しました。プロフィル写真は生成AIで作られた架空の人物で、アカウントも偽でした。

　いま起きているのが、「信頼できる情報源」を書き換える動きです。生成AIでそれぞれ別個のペルソナ（人格）を設定したSNSアカウントを複数つくり、協調操作してある種の言説を広める。

　言説をインフルエンサーが取り上げれば、メディアが「こんな意見がある」などと報じます。「信頼できる情報源」にいったん載ってしまえば、あとは生成AIがその情報を拾ってくるというわけです。

　本来の使い方ではないが、いま生成AIを検索エンジン代わりに使う人は大変多い。ネットのカオスの中で、とりあえず「中立」で「賢そう」な情報を生成AIに聞いてみる。すると、無邪気な生成AIが偽情報を教えてしまうということが起きます。

　――大変な労力がかかる世論工作に見えます。

　いえ、極めて低コストにできます。

　ここ1、2年で「AIエージェント」という技術が登場しました。色々な分野に特化した生成AIを統合して、人間のようにマネジメントするAIです。

　24時間365日、AIエージェントが色々な言説を振りまき続けます。人間のサクラすら必要ありません。複数のペルソナのSNSアカウントを連携して動かします。

　――何が起きますか。

　「インフォデミック」です。つまり、デマも含めた大量の情報の氾濫（はんらん）による社会の混乱です。偽情報の洪水で、ファクトに当たることが困難になる。偽の言説が人間の内部までに浸透し、思想を偏らせます。その影響は破滅的です。歴史の歪曲（わいきょく）も含め、いま「知」とは何かが問われています。

　誰もが言説を拡散できる時代にあって、記者や専門家が、信頼できるソースに当たって記録を残す行為がとても大事になる。責任は重大です。