情報収集や言論空間の中心がSNSへと移りつつあるなか、事実関係を確かめる「ファクトチェック」の手段に、生成AI（人工知能）を使う人が増えています。

　便利な生成AIに落とし穴は無いのか。誤った情報を信じたり、拡散したりしないためにはどうすればいいのか。欧州で偽情報対策に取り組む研究機関「欧州デジタルメディア観測所（EDMO）」のコーディネーター、トマゾ・カネッタ氏に聞きました。

　――最近はわからないことがあると、ネットで検索するより、ChatGPT（チャットGPT）などの生成AIに尋ねることが増えました。

　A　その傾向は世界中で見られます。チャットGPTやxAIの「Grok（グロック）」のような生成AIは、大規模言語モデル（LLM）という技術を使っています。膨大なテキストデータを学習して、人間のような自然な文章を生成し、質問にも答えられるのです。

　――日本では、グロックでファクトチェックする人が多いようです。

　A　検証したいXの投稿に「グロック、これって正しい？」と書き込むだけで、答えてくれる。白黒がはっきりしている事実や、数字を確認する場合は、グロックは迅速で簡単です。

　ですが、生成AIをファクトチェックの手段として使うことには、少なくとも三つの深刻なリスクがあります。

　一つ目は、政治的な主体に操作される危険性があること。二つ目は、間違いを犯すこと。三つ目は、AIを使ったフェイク画像や動画、事実に基づかない情報を出力してしまう「ハルシネーション」が、偽情報の拡散につながる可能性があることです。一つ目が最も重大で危険な問題です。

　――どういうことでしょうか。

　A　我々や調査団体「ニュースガード」などいくつかの団体の調査では、「プラウダ・ネットワーク」と称する自称ニュースメディアが、日本を含む49カ国を対象に、様々な言語で150のニュースサイトを開設。毎日、数百件に及ぶロシアのプロパガンダ（宣伝）を含むコンテンツを発信していました。注目すべきは、これらのサイトの閲覧者数自体はほぼゼロであったにもかかわらず、LLMのトレーニングデータとして重大な役割を果たしていたことです。

「質の悪いエサ」導く汚染された答え

　――生成AIの学習データとして使われていたということですか？

　A　チャットGPTはネット上で公開された記事やサイトの情報を、グロックもXを含む公開データをトレーニングに活用しています。そのため、世間の目に触れていない偽情報サイトでも、学習データとして取り込まれる可能性があるのです。

　実際、チャットGPTなどLLMを使った主要な10の生成AIサービスのうち、3割がプラウダの情報を回答として使い、そのリンクを出典として提示したケースもありました。

　これが偶然だったのか、ロシアが意図的に仕組んだのかはわかりません。いずれにせよ、LLMに「質の悪いエサ」を与えれば、その回答は容易に汚染されることが明らかになったのです。

　――回答に政治的意図が混ざっているのに利用者は気づいていないということですね。

　A　欧州の場合はロシアからの脅威が主に問題となりますが、日本でも中国などが関与する可能性を否定しきれません。またグロックの場合、Xの所有者のイーロン・マスク氏が政治的な影響力を持っていることも見逃せません。特定の政治的立場に沿ってアルゴリズムが調整されている可能性があるにもかかわらず、外部のチェックを受けないのは極めて危険です。

　研究者などがLLMのアルゴリズムやデータ構造にアクセスできる透明性と、どんなデータを学習させたのかを明示する説明責任が生成AIには不可欠です。

　さらに問題になるのが、二つ目の点です。

　――生成AIが「間違えた回答をする」ことですか？

　A　LLMはその設計上、「いかに説得力のある文章をつくるか」を重視しています。そのため、ユーザーはAIの回答を最も正しい答えだと信じ込んでしまいがちです。説得力のある文章をつくる「天才」なのです。

　米コロンビア・ジャーナリズム・レビューによる調査では、主要な八つの生成AIのうち、60%の回答が、出典記事の内容を誤って認識していたとされています。チャットGPTに至っては、200件中134件が事実誤認。「自信がない」と答えたのは15件だけで、回答を拒否した例は1件もありませんでした。

たった10秒でできる「確認」

　――生成AIに質問する際には、何に気をつければ良いですか？

　A　特に若い世代では、テレビや新聞から情報を得る機会が減り、SNSやその生成AIから情報を得て、意見を形成しています。ここまで説明した通り、LLMの機能は中立ではないし、間違います。「ウクライナ人はナチスだ」という誤った回答が説得力を持って出うる環境なのです。

　そこで大切なのが、「健全な疑う心」を持つこと。どんなに説得力のある文章や画像でも、すぐに信じず、疑問を持って確かめることです。

　一方で、「何も信じられない」と極端なニヒリズム（虚無主義）に陥るのも危険です。偽情報の発信者は既存の権威を否定し、「真実は存在しない」と諦めムードを広めることが狙いだからです。

　――「健全な疑う心」はどうしたら養えますか？

　A　多くの回答は、異なる時期の異なる文脈のものを引っ張ってきて構成しています。三つ目のリスクで挙げましたが、たとえば2021年に南アフリカで起きた暴動の写真を、「25年にイタリアで起きた移民犯罪の画像」として提示するなど、文脈や事実が完全にすり替えられてしまうケースもあります。

　もしその情報があなたにとって非常に重要で感情を揺さぶるものであれば、たった10秒で済むので、画像検索をしてほしいです。

　センセーショナルなものほど、情報源を確かめてみてください。それが、偽情報にのみ込まれない最善の方法です。