インターネット上の偽・誤情報等への対策技術の開発・実証事業を読み解く 

生成AIの急速な普及に伴い、インターネット上の偽・誤情報（特に画像・動画を伴うディープフェイク）は、社会の信頼を揺るがす深刻な課題となっています。

この問題に対し、総務省は積極的に取り組んでいます。令和7年度に実施された「インターネット上の偽・誤情報等への対策技術の開発・実証事業」では、14の技術開発主体が採択され、先進的なAI技術の実証が進められました。

その中でSakana AIが開発したシステム（通称MIC Project関連技術）は、SNS空間の可視化と総合的な対策支援として注目を集めています。

本記事では、総務省のこの事業の意義と限界を整理しながら、日本社会にとっての意味を考察します。

総務省の事業概要

総務省は、生成AIに起因する偽・誤情報の流通・拡散リスクに対応するため、「インターネット上の偽・誤情報等への対策技術の開発・実証事業」を推進しています。

インターネット上の偽・誤情報等への対策技術の開発・実証事業

事業の目的は、

• コンテンツの真偽を見分ける技術の開発
• 情報の流通状況を可視化する仕組みの構築
• 拡散を抑制・停止するための対策案の立案支援

です。

2026年3月16日には、成果発信イベントが大手町サンケイプラザで開催され、採択された企業・団体が技術を展示・発表しました。

Sakana AIはここで、Agent-Based Modeling（ABM）を活用した「Shachi」フレームワークを基盤としたシステムを公開しています。

このシステムの特徴は以下の通りです。

• SNS空間の可視化：膨大な投稿から隠れたナラティブを抽出
• 画像・動画を中心とした真偽判定：ディープフェイクを含む投稿の総合分析
• 対策案の立案支援：拡散リスクのシミュレーションと効果的なカウンターメッセージの提案

特に、ノベルティサーチ（新しい視点を発見する探索手法）と高解像度な仮想ペルソナ生成により、人間では見えにくい情報構造を明らかにできる点が先進的です。

なぜ総務省がこの事業を推進するのか

① 生成AI時代特有の脅威への対応

生成AIにより、偽情報は極めて巧妙化しています。選挙期間中の影響工作や、社会事象をめぐる誤ったナラティブは、民主主義の基盤を揺るがす可能性があります。

総務省は、プラットフォーム事業者への要請だけではなく、技術面からの対策を国家レベルで整備することで、情報環境の健全性を守ろうとしています。

② 日本独自の視点の必要性

グローバルなSNSプラットフォームでは、海外企業のポリシーや価値観が優先されがちです。そこで総務省は、日本社会の文脈を考慮した多角的な分析技術の開発を促しています。文化的なニュアンスや社会常識を踏まえた判定支援は、単なる事実確認を超えた役割を果たします。

③ 社会実装と産学官連携の強化

本事業は公募形式でスタートアップや大手企業を巻き込み、成果を地方自治体や企業に広く発信する仕組みを取っています。これにより、技術が「研究段階」で終わらず、実際の運用に結びつくことを目指しています。

事業が抱える本質的な限界

総務省の取り組みは現実的で有用ですが、以下のような構造的な課題も存在します。

① 「真偽判定」の本質的な難しさ

偽・誤情報を判定する行為は、

• 事実と意見の境界
• 文脈や意図の解釈
• 文化的・政治的なニュアンス

に大きく依存します。

総務省事業で開発されるAIは優れた支援ツールですが、完全に客観的な「真実」を自動決定できるわけではありません。特にナラティブ抽出では、どの視点を「異常」とみなすかの選択が、価値観を反映します。

② 技術的・運用的な現実

現在のシステムは、

• 人間による最終確認が不可欠
• 新しい偽情報手口への継続的な更新が必要

という限界を抱えています。総務省もこれを認識し、完全自動化ではなく「支援」としての位置づけを強調しています。

③ 価値観の埋め込みと情報統治の側面

最も重要な論点はここです。

総務省が推進する偽情報対策とは、言い換えれば

「何を偽・誤情報とし、どのように対応するか」という判断基準の設定

です。

これが国家レベルで運用されると、以下のリスクが生じ得ます。

• 特定の言論を効率的に「誤情報」として排除する検閲の最適化
• 政府や行政が望ましいと考えるナラティブの優先
• カウンター発信のシミュレーションが、情報管理ツールに転用される可能性

つまり、本事業は技術開発であると同時に、情報空間の統治装置としての性格も併せ持っています。

日本社会にとっての意味

総務省のこの事業の本質を一言で表せば、「情報環境を守るための国家戦略」です。

● 現実的な防衛策として有効

計算資源で劣位に立つ日本にとって、シミュレーションと集団知能を活かした分析技術は、極めて理にかなった選択です。Shachiのようなシステムは、防衛・危機管理分野への拡張も期待されます。

● しかし、主導権は限定的

基盤となる大規模言語モデルやグローバルプラットフォームの多くは海外製です。優れた対策技術を開発しても、情報空間の根本的なルール設定権は完全に握れない構造が残ります。

● 決定的に重要な問い：「誰が基準を決めるか」

最終的に問われるのは、

• 真偽の判定基準
• 対策の優先順位
• 価値観の埋め込みの在り方

を誰が、どのように決めるのかです。

総務省、企業、専門家、市民の間で透明性の高い議論と合意形成がなければ、AIは「社会を守る道具」ではなく、「見えない情報統治のインフラ」へと変質する危険性があります。

結論

総務省の「インターネット上の偽・誤情報等への対策技術の開発・実証事業」は、

• 生成AI時代における情報リスクへの現実的な対応策
• 産学官連携による技術実装の好例

しかし、価値観や権力の問題を本質的に内包しています。

そして何より、

これは単なる技術開発ではなく、“情報空間のインフラ”を国家がどう形作るかという政策課題である

という点を、私たちは直視する必要があります。

これからの時代、AIは単なるツールではなく、情報のフィルターであり、判断の補助であり、社会の認知基盤そのものになります。

総務省が主導する取り組みは、その基盤整備の一歩です。

だからこそ、私たちが繰り返し問うべきは、

「どんな技術を開発するか」ではなく、「どんな情報社会を前提とするか」

なのです。

技術の進歩を歓迎しつつ、価値観の選択やガバナンスの在り方について、市民社会全体で責任を持って議論を深めていくことが不可欠です。