「偽情報」ではなくディスインフォメーション

――そうした不確かな情報を流布する人たちが、工作の片棒を担いでいるのか、単なるインプレッションや収益稼ぎなのか、承認欲求なのか、「自分では本当に正しいと思い込んでいるのか」が見分けられません。

【長迫】この点に関してはかなり注意が必要です。というのも、認知戦という概念が広まったことで、意見や認識の異なる相手を「お前はロシアか中国の手先だろう」と決めつけるような人たちも出てきてしまったためです。

認知戦では、社会の分断を深めることも狙いの一つであるにも関わらず、認知戦の知識のある人たちによってむしろ分断が広まってしまう皮肉な状況となっています。

本来、あるアカウントが外国勢力のボットなのかどうかというようなことは政府やプラットフォーマーが技術的、政治的にアトリビューション（帰属の特定）を行って判断すべきことです。

アイコンがAI画像であることや、位置情報や使用言語で推定できる部分もありますが、一ユーザーが調べられるアカウント情報には限界があります。そのため、ユーザーは、発信している情報の真偽や文脈、ナラティブに注目すべきでしょう。

前述の通り、ディスインフォメーションは日本では「偽情報」と訳されることが多いのですが、実際には社会に対する攻撃のために意図的に流される情報の７割が真実、３割が虚偽という割合だと信憑性が出やすく、信じられやすいとされています。

ロシアによる情報戦・認知戦に関する学術的発信でも、ディスインフォメーションを「嘘と真実の割合を注意深く調和させること」と定義してもいます。

ディスインフォメーションを丸ごと「偽である」と認識してしまうと、むしろ部分的に正しい情報を指摘されて「フェイクニュース扱いしているが、これは事実だ」と言われる余地が生じてしまいます。

そのため、ディスインフォメーションを偽情報と呼ばない方がいいのではないかと考えていまして、このことはメディアの方々にも事あるごとにお話ししているところです。

生成AIで作られた巧妙なウソ動画

――2016年のピザゲート事件や、2021年の米議会襲撃事件を目の当たりにして「日本はまだアメリカよりはマシな状態だ」と思っていたのですが、だんだん近づいてきている気がします。これはスマートフォンの普及や、それに伴う動画メディアの流行も関係しているのでしょうか。

【長迫】技術的変遷とネット空間でのナラティブの推移の両方があるのではないかと思います。

技術面で言えば、やはり動画中心のSNSの登場、インフルエンサーによる動画配信の活発化、ショート動画などの流行により、これまで以上にエモーショナルなアテンションエコノミーが拡大してきました。SNSは基本的に感情の伝染によって広がる面がありますので、テキスト以上に情動に訴えやすい環境となったわけです。

また生成AIの進展によって、大量かつ多言語のディスインフォメーションが作られやすくなった面もあります。ロシアの「ドッペルゲンガー」というキャンペーンでは、AIを使ってウクライナ支援を止めさせるためのナラティブを広める画像が大量生成され、拡散されました。

例えばハリウッドセレブの画像をAIで加工して「ウクライナ支援にこれだけの巨額のお金が使われている。あなたは疑問に思いませんか」というようなことを言わせているものです。

ドッペルゲンガーキャンペーンは、アメリカだけでなくドイツやフランスでも確認されており、人物も言語も各国仕様にカスタマイズされた発信内容になっていました。以前であれば一つひとつ手作業で編集していたものを大量に生成できますし、言語の壁も超えてしまうので、認知戦の動きも活発になって高度化、巧妙化しています。

撮影＝プレジデントオンライン編集部
怪しげな情報に対しては「いったん踏みとどまることが大事」と長迫さんは話す。