生成AIと予測AIの比較：AIの種類を理解する

AIは、2つの異なるアプローチを通じてサイバーセキュリティを変革しています。生成AIは新しいコンテンツを作成し、予測AIは将来の出来事を予測します。セキュリティ担当者にとって、どちらも防御ツールであると同時に潜在的な攻撃手段でもあることを理解することが重要です。

生成AIを理解する：創造力を生み出す力

生成AIは、リアルな画像から高度なコードまで、まったく新しいコンテンツを作成する能力で世界中の注目を集めています。では、サイバーセキュリティにとってこれは何を意味するのでしょうか。生成AIは基本的に、既存のデータからパターンを学習し、その知識を使ってオリジナルの出力を生み出します。

セキュリティチームにとって、この創造力は諸刃の剣です。一方では、トレーニング用の合成攻撃データを生成し、リアルなフィッシングシミュレーションを作成して、セキュリティ文書の作成を自動化できます。他方では、攻撃者が同じ技術を使って説得力のあるソーシャルエンジニアリング攻撃を仕掛けたり、シグネチャを絶えず変化させるポリモーフィックマルウェアを開発したりする可能性があります。

生成AIを支える技術

現在の生成AIシステムを支える主なアーキテクチャは3つあり、それぞれに固有のセキュリティ上の影響があります。

• 敵対的生成ネットワーク（GAN）は、継続的なレッドチーム対ブルーチームの演習のように機能します。システムは、偽のコンテンツを作成する生成器と、それを検出しようとする識別器という、競い合う2つのニューラルネットワークで構成されます。この敵対的なプロセスを通じて、生成器は検出システムを欺くほどリアルなコンテンツを作る能力を高めていきます。サイバーセキュリティの現場で、攻撃者が防御をすり抜けるために手法を絶えず進化させている状況とよく似ています。GANは、異常検知システムのトレーニング用に合成ネットワークトラフィックを生成したり、ハニーポット用にリアルな偽の認証情報を作成したりするのに優れています。

• 変分オートエンコーダー（VAE）は、環境における「正常」の状態を学習するという異なるアプローチを取ります。データを簡略化した表現に圧縮してから再構築し、学習したパターンに合わないものがあれば即座にフラグを立てます。そのためVAEは、通常とは異なるユーザー行動の検出や、侵害されたアカウントの特定に役立ちます。ユーザーがこれまでアクセスしたことのないシステムに突然アクセスしたり、午前3時に大量のデータをダウンロードしたりした場合でも、既知の攻撃シグネチャに一致しなくてもVAEはこうした異常を検知できます。

• GPTなどの大規模言語モデル（LLM）を支える技術であるトランスフォーマーは、系列内の文脈や関係性を理解します。ChatGPTからGitHub Copilotまで、AIへのアクセスを広く可能にするツールを支えています。セキュリティ担当者にとって、トランスフォーマーはチャンスであると同時にリスクでもあります。特定の標的に合わせた高度なフィッシングメールを生成したり、脆弱性の説明を基にエクスプロイトコードを書いたりできる一方で、インシデント報告書の作成や包括的なセキュリティ文書の作成を自動化し、防御側を支援することもできます。

実践における生成AI

セキュリティにおける生成AIの力は、創造力を大規模に活用できることにあります。従業員に何千もの異なるフィッシングシナリオへの対応を訓練したい場合、生成AIなら部門や役職に合わせたシナリオを数分で作成できます。SOCチームに新たな攻撃パターンへの対応を訓練したい場合は、本番システムを危険にさらすことなく、スキルを試す合成インシデントを生成できます。

ただし、この技術に課題がないわけではありません。生成AIシステムは「幻覚」を起こし、もっともらしく見えても技術的に誤っている、あるいは実現不可能な出力を生成することがあります。また、大量の計算リソースが必要なため、大規模な運用にはコストがかかります。最も懸念されるのは、防御のために開発した能力が、攻撃の武器に転用される可能性があることです。セキュリティトレーニング教材の作成に役立つモデルが、攻撃者にとって完璧な標的型フィッシングメールを作る手段にもなり得ます。

予測AI：セキュリティの水晶玉

生成AIがコンテンツを作り出すのに対し、予測AIは先を見通します。過去のパターンを分析して将来の出来事を予測し、セキュリティチームが脅威の一歩先を行けるよう支援します。予測AIは、何千ものインシデントを経験し、攻撃の初期兆候を見抜く熟練のセキュリティアナリストのようなものです。

予測AIは、次に標的となる可能性が最も高いシステムはどれか、このユーザー行動が侵害を示している確率はどのくらいか、脅威アクターのパターンから次の攻撃の波はいつ予想されるか、といった問いへの回答に優れています。

予測AIによる脅威分析の仕組み

予測AIでは、さまざまなアルゴリズム手法を用います。それぞれ異なるセキュリティ課題に適しています。

• 回帰分析は、リスクの定量化に役立つ連続値を予測します。インターネットへの露出度、重要度、過去の攻撃パターンなどの要素に基づき、脆弱なシステムが悪用されるまでの期間を推定できます。これにより、最も効果が見込める箇所を優先して、セキュリティチームがパッチ適用に取り組めます。

• 分類アルゴリズムは、脅威を明確なグループに分類するのに優れています。決定木は脅威を分類するための明確で監査可能なルールを作成するため、検知理由の説明が求められる環境に最適です。ランダムフォレストは複数の決定木を組み合わせて精度を高め、多くのセキュリティツールを悩ませる誤検知を減らします。サポートベクターマシンは脅威カテゴリ間の最適な境界を見つけるため、正当なネットワークトラフィックと悪意のあるトラフィックのパターンを区別する際に特に有効です。

• ニューラルネットワークは、単純なアルゴリズムでは見逃す可能性のある複雑な非線形パターンを検出します。従来の攻撃パターンに従わない高度な脅威の特定に効果的です。たとえば、個々の行動だけを見れば無害に見えるものの、数か月にわたって発生する、低速で分散型のデータ持ち出しを検知できる場合があります。

予測のメリットと限界

予測AIの強みは、一貫性と、疲れることなく膨大なデータを処理できる能力にあります。何百万ものイベントを継続的に監視し、人間のアナリストが見逃すかもしれない微妙なパターンを見つけられます。そのため、脅威ハンティング、リスク評価、リソース配分に欠かせない存在です。

しかし、予測にも限界があります。こうしたシステムは既知の脅威の亜種を特定するのは得意ですが、新たな攻撃、つまりセキュリティ担当者を悩ませる「未知の未知」には対応しにくいものです。システムの性能はトレーニングデータ次第であり、偏りや不足のある過去のデータは検知の盲点につながります。複雑な予測モデルは「ブラックボックス」化し、特定の活動が不審と判断された理由を理解しにくくなることがあります。

生成AIと予測AIを比較する

効果的なセキュリティ運用には、それぞれのAIをいつ使うべきか理解することが重要です。

組み合わせることで生まれる力

真価が発揮されるのは、両方のAIを組み合わせたときです。単に2つのツールを使うということではありません。それぞれの能力を高め合うフィードバックループを生み出すことが重要です。

脅威のシミュレーションとテストを考えてみましょう。予測AIは、組織の脆弱性データ、脅威インテリジェンスフィード、業界の攻撃傾向を分析し、最も可能性の高い攻撃経路を特定します。業界、規模、テクノロジースタックを踏まえ、次の四半期にサプライチェーン攻撃を受ける可能性が73%あると判断するかもしれません。次に生成AIがこの知見を基に、特定の脆弱性を試すリアルな攻撃シナリオを作成します。実在するサプライヤーに言及する説得力のあるフィッシングメールを生成し、正規の依存関係を装う悪意のあるパッケージを作成して、サプライチェーン侵害で典型的なラテラルムーブメントのパターンをシミュレーションします。

この組み合わせは異常検知にも活用できます。従来の異常検知システムは、正常な状態から逸脱したものしか検知できないため、誤検知率が高くなりがちです。予測AIがベースラインとなる行動パターンを確立して逸脱を特定し、生成AIがそうした異常の合成例を作成します。これにより、実際の攻撃が発生するのを待たずに、より豊富なデータセットで検知システムをトレーニングできます。

インシデント対応では、両者の組み合わせによって対応時間を短縮できます。アラートが発生すると、予測AIが初期兆候に基づいて、想定される深刻度、被害の拡大範囲、攻撃者の目的を即座に評価します。続いて生成AIが、環境に合わせた対応プレイブックを作成し、隔離スクリプト、コミュニケーション用テンプレート、修復手順を生成します。

リスクへの対処

大きな力には大きな責任が伴います。サイバーセキュリティにおけるAIも例外ではありません。組織は、次のような重大なリスクに対処する必要があります。

• AIを活用した攻撃の脅威は、もはや理論上の話ではありません。犯罪者はすでに生成AIを使い、感染のたびにシグネチャが変わるポリモーフィックマルウェアを作成したり、実在する従業員やプロジェクトに言及する標的型フィッシング攻撃を仕掛けたり、ビッシング攻撃用のディープフェイク音声を生成したりしています。防御戦略では、攻撃者も自分たちと同じAI機能を使えることを前提にする必要があります。

• セキュリティ上の判断におけるバイアスも、重大な課題です。予測AIモデルが特定地域からの攻撃や特定システムを標的にした攻撃を主に学習している場合、こうしたパターンに当てはまらない脅威を見逃す可能性があります。その結果、攻撃のカテゴリ全体が検知されないという危険な盲点が生じかねません。定期的なバイアス監査と、多様なトレーニングデータが不可欠です。

• AIの導入により、プライバシーとコンプライアンスに関する懸念も高まります。AIシステムが効果的に機能するには膨大なデータが必要であり、機密性の高いユーザー情報が含まれる可能性もあります。差分プライバシーや連合学習などの手法を活用し、モデルの有効性を保ちながらデータを適切に扱うには、慎重なバランスが求められます。

次のステップ

今後の進め方は、現在のセキュリティ成熟度によって異なります。

セキュリティにおけるAIの活用を始めたばかりなら、まず予測AIを使った脅威検知の小規模なパイロットプロジェクトから始めましょう。必要な計算リソースへの投資が比較的少なく、短期間で効果を測定できます。使い慣れてきたら、セキュリティトレーニングとテストに生成AIを導入しましょう。

すでに何らかのAIツールを使っているなら、不足しているのはどちらのタイプか評価しましょう。多くの組織はSIEMを通じて予測機能を利用していますが、生成AIの活用はまだ検討していません。合成攻撃データの作成やセキュリティ文書の作成自動化に、生成AIを取り入れることを検討してください。

変革を目指すなら、2種類のAIを組み合わせて活用する戦略を立てましょう。予測AIがリスクを特定し、生成AIが的を絞った防御策を作成するフィードバックループを構築します。両方のアプローチを理解し、相乗効果を最大限に引き出せるチームを作りましょう。

攻撃者はすでに、能力を高めるために両方のAIを活用しています。防御にこれらのテクノロジーを導入するかどうかではなく、どれだけ迅速かつ効果的に導入できるかが問われています。予測AIに適した質の高いデータがある領域や、生成AIが役立つ明確なニーズがある領域など、基盤が最も整っているところから始め、そこから活用範囲を広げましょう。

サイバーセキュリティにおけるAIは、人間の判断を置き換えるものではありません。機械の速度と規模を活かし、人間の能力を拡張するものです。成功を収めるのは、予測AIの先見性と生成AIの創造性を適切に組み合わせ、堅牢で適応力の高い防御を築く組織です。