- 第1章：もはやSFではない。攻撃主体が「AI」になる時代の幕開け
- 第2章：【深刻度：★★★】全てを無に帰す「AIサプライチェーン攻撃」
- 第3章：企業の競争力が盗まれる「モデル抽出・窃取」
- 第4章：攻撃の”民主化”と”超高度化”を進める「AIによる攻撃作戦」
- 第5章：新たな攻撃対象「マルチモーダルLLM」への挑戦
- 第6章：私たちはどう立ち向かうべきか？AI時代に求められるセキュリティ戦略
- まとめ：AI時代のセキュリティは「協調」と「適応」が鍵
第1章：もはやSFではない。攻撃主体が「AI」になる時代の幕開け
こんにちは、東証プライム上場企業で情報シスセキュリティを担当している城咲子です。CISSP、CCSP、登録セキスペとして、日々進化するサイバー脅威の最前線に立っています。
2025年、サイバーセキュリティの世界は、かつてない転換点を迎えています。それは、サイバー攻撃の主体が、人間から「AI」へと本格的にシフトするという、SF映画のような現実です。
これまでの攻撃は、攻撃者がスクリプトを書き、手動で脆弱性を突くのが主流でした。しかし、AIの進化は、攻撃のあり方を根本から変えてしまいました。AIは自律的に脆弱性を探し、最適な攻撃手法を選択し、24時間365日休みなく攻撃を仕掛けてきます。
本記事では、2025年に企業が直面するであろう「AIによるサイバー脅威」の具体的なベクトルを、私の専門的知見を交えながら深掘りし、私たちがどう立ち向かうべきかの指針を提示します。
第2章：【深刻度：★★★】全てを無に帰す「AIサプライチェーン攻撃」
私が今、最も深刻な脅威だと考えているのが「AIサプライチェーン攻撃」です。自社でどんなに堅牢なセキュリティを築いても、外部から持ち込むAIモデルや学習データが汚染されていれば、そこから全てが崩壊する可能性があるからです。
データ汚染（ポイズニング）：AIの判断を根底から覆す静かなる脅威
AIサプライチェーン攻撃の中でも特に厄介なのが、AIの学習データに悪意のあるデータを注入する「データ汚染（ポイズニング）」です。
例えば、自動運転車の画像認識AIに対して、特定の標識に「見えないノイズ」を付加したデータを学習させたとします。すると、そのAIは本物の標識を誤認識し、重大な事故を引き起こす可能性があります。これは製造業の検品AIや医療の画像診断AIでも同様です。
この攻撃の恐ろしい点は、低コストで実行可能でありながら、その影響が広範囲かつ深刻であることです。一度汚染されたデータで学習したAIは、予測不能な誤作動を起こす「時限爆弾」を抱えているのと同じなのです。
公開リポジトリの罠：善意で共有されたモデルに潜むマルウェア
今や、Hugging Faceのようなプラットフォームで、世界中の開発者が学習済みAIモデルを共有しています。これは技術の発展を加速させる素晴らしい文化ですが、攻撃者にとっては格好の標的です。
実際に、公開されているモデルにマルウェアを混入させ、ダウンロードした開発者の環境を侵害するケースが報告されています。ある調査では、2025年のAI関連のセキュリティ侵害の45%が、こうした汚染済みモデルに起因すると予測されており、もはや看過できない脅威となっています。
【城咲子のつぶやき】 もはや「自社だけ守る」という内向きのセキュリティ対策は通用しません。利用するオープンソースのAIモデルはどこから来たのか？学習データは信頼できるのか？といった、サプライチェーン全体を俯瞰したリスク管理が不可欠です。これは、情報システム部門だけでなく、経営層が主導して取り組むべき経営課題と言えるでしょう。
第3章：企業の競争力が盗まれる「モデル抽出・窃取」
AIモデル、特に大規模言語モデル（LLM）は、企業の長年の研究開発と莫大な投資の結晶です。これが盗まれれば、企業の競争優位性は一瞬にして失われます。
「モデル抽出・窃取」は、正規のAPIを通じてAIに繰り返し質問（クエリ）を送り、その応答を分析することで、標的のAIモデルの機能を模倣したクローンを不正に作成する攻撃です。
これは、金庫から直接お金を盗むのではなく、金庫の設計図を盗んで同じものを作るようなものです。攻撃者は盗んだモデルを悪用したり、競合他社に売り渡したりするかもしれません。これは、企業の知的財産そのものを直接的に脅かす、極めて悪質な攻撃です。
第4章：攻撃の”民主化”と”超高度化”を進める「AIによる攻撃作戦」
AIは、サイバー攻撃の技術的なハードルを劇的に下げ、誰でも高度な攻撃を実行できる「脅威の民主化」を引き起こしています。
エージェント型AIによる攻撃の完全自動化
将来的には、攻撃者が「A社の顧客情報を盗み、身代金を要求しろ」と指示するだけで、エージェント型AIが自律的に判断し、脆弱性の探索から侵入、データ窃取、恐喝までの一連の流れを自動で実行する時代が来ると言われています。
これは、熟練のハッカー集団が24時間体制で攻撃を仕掛けてくるようなものであり、従来の防御手法では対応が追いつかなくなる可能性があります。
適応型マルウェア：セキュリティ対策を回避する自己進化ウイルス
AIを搭載したマルウェアは、侵入先のネットワーク環境やセキュリティ対策をリアルタイムで学習し、検知を回避するように自己のコードを書き換えて進化します。
従来のパターンマッチング型のアンチウイルスソフトは、このような「適応型マルウェア」の前では無力化される可能性が高いでしょう。
超パーソナライズされたフィッシング：もう人間には見抜けない
AIは、標的のSNS投稿や経歴などの公開情報を分析し、その人の興味や人間関係、文章の癖までを学習します。そして、本人と見分けがつかないディープフェイク音声や、完璧な文面のビジネスメールを生成し、フィッシング攻撃を仕掛けてきます。
あるレポートでは、このようなAIを活用したフィッシング攻撃が、2024年後半に202%も急増したと報告されています。もはや、「怪しいメールは開かない」という個人の注意喚起だけでは防ぎきれないレベルに達しているのです。
第5章：新たな攻撃対象「マルチモーダルLLM」への挑戦
テキストだけでなく、画像や音声も同時に理解できる「マルチモーダルLLM」の登場は、新たな攻撃ベクトルを生み出しました。
例えば、画像に人間には見えない特殊なノイズ（敵対的摂動）を加えることで、AIに全く違うテキストを生成させることが可能です。これを悪用すれば、製品のレビューを不正に操作したり、監視カメラの映像を誤認させたりと、様々な悪影響が考えられます。
第6章：私たちはどう立ち向かうべきか？AI時代に求められるセキュリティ戦略
では、私たちはこれらの脅威にどう立ち向かうべきでしょうか。重要なのは、AIを「脅威」としてのみ捉えるのではなく、防御側もAIを最大限に活用することです。そして、信頼できるフレームワークに基づいた体系的なリスク管理が不可欠です。
公的機関のフレームワークを羅針盤に
AIのリスク管理においては、NIST（米国国立標準技術研究所）が公開している「AIリスクマネジメントフレームワーク（AI RMF）」や、IPA（情報処理推進機構）が策定を進めている「AIセーフティ・インスティテュート」の指針が非常に参考になります。
参考情報源：
* NIST AI Risk Management Framework (AI RMF): AIの信頼性を確保するためのリスク管理手法を体系的にまとめています。NIST | AI Risk Management Framework
* IPA AIのためのセキュリティ、セーフティ: 日本国内におけるAIの安全性確保に向けた取り組みです。 IPA 独立行政法人 情報処理推進機構
これらのフレームワークは、「AIを導入する際に、どのようなリスクを想定し、どのように管理・対応すべきか」という問いに対する、グローバルスタンダードな答えを示してくれます。
今すぐ始めるべき具体的な対策
上記のフレームワークを踏まえ、企業が今すぐ取り組むべき対策をいくつか挙げます。
AIサプライチェーンの徹底的な管理:
- 利用するAIモデルの出所と真正性を確認する。（デジタル署名やハッシュ値の検証）
- 学習データの品質と完全性を担保するプロセスを構築する。
- 取引先に対しても、同様のセキュリティ基準を求める。
AIに特化したセキュリティテストの導入:
- AIモデルの脆弱性を疑似的に攻撃して洗い出す「AIレッドチーム演習」を実施する。
- データポイズニングやモデル抽出攻撃に対する耐性をテストする。
AIによる防御システムの構築:
- AIを活用して膨大なセキュリティログをリアルタイムで分析し、攻撃の予兆を検知する。
- AIによる自動化されたインシデント対応（SOAR）を導入し、対応を迅速化する。
全従業員への教育と啓発:
- 超パーソナライズされたフィッシング攻撃の実例を示し、リテラシーを高める。
- 安易に業務データを生成AIに入力することのリスクを周知徹底する。
まとめ：AI時代のセキュリティは「協調」と「適応」が鍵
AIがもたらすサイバー脅威は、これまでの常識を覆すほど高度で複雑です。しかし、AIは同時に、私たちの防御能力を飛躍的に向上させる強力な味方でもあります。
敵はAI、味方もAI。
これからのセキュリティは、自社だけで閉じこもるのではなく、業界全体やサプライチェーン、さらにはAI開発者コミュニティと「協調」し、常に変化し続ける脅威に「適応」していく姿勢が求められます。
この記事が、皆さんの会社でAIセキュリティ戦略を考える上での一助となれば幸いです。
AIセキュリティの全般的な最新情報は以下の記事で解説しています。合わせてご確認ください。
