ダークAI：人工知能の影に迫る

ダークAIとは？

ダークAIとは、人工知能を悪用してサイバー攻撃を開発したり、詐欺を働いたり、その他の違法行為を実行したりすることです。こうした行為は増加しています。生成AI（GenAI）によって参入障壁が下がり、サイバー犯罪者が攻撃を設計し、実行することが容易になっています。

同時に、AIを含むエンタープライズテクノロジーの急速な普及により、組織のデジタル攻撃対象領域は拡大し、脅威アクターに悪用される脆弱性が生まれています。

2025年までに、サイバー犯罪による損失は年間10.5兆ドルに達すると予測されており、そのうちダークAIが引き起こす割合は増加すると見込まれています。

ダークAIの定義

ダークAIは特定のテクノロジーではありません。AIの能力を悪用して被害をもたらす、一連の戦術や行為を指します。主な特徴は次のとおりです。

• 匿名性：攻撃者は、検知を避けるために暗号化や紹介制、暗号資産などを利用し、匿名性の高いオンライン空間で活動します。

• 自律性：ダークAIシステムは人間の関与を最小限に抑え、自動で動作することが多く、攻撃者は複数の被害者を同時に狙う大規模攻撃を仕掛けられます。

• 適応性：攻撃者は最新のAI技術を継続的に取り入れ、新たな検知システムを回避するよう手法を調整します。

• 人間らしい振る舞い：ディープフェイクから説得力のあるソーシャルエンジニアリングまで、ダークAIは実際の人間同士のやり取りを模倣し、人を欺いて操ります。

従来のAIが生産性や意思決定、生活の質の向上を目的としているのに対し、ダークAIはシステムへの侵入、誤解を招く情報の発信、被害の発生を目的に作られています。信頼を悪用して意図を隠し、深刻な結果を招くことも少なくありません。

ダークAIがもたらす課題とサイバーセキュリティの脅威

AIの台頭により、攻撃者は高度なサイバー攻撃をより速く、簡単に実行できるようになりました。かつては高度な技術的知識が必要だった攻撃も、今でははるかに幅広い脅威アクターが実行でき、多くの攻撃者がAIで戦術を強化し、従来の防御を上回ろうとしています。ダークAIがリスクを加速させる仕組みを理解すれば、チームは先手を打ち、レジリエンスを高められます。

• AIを活用したサイバー攻撃：ダークウェブで入手できるすぐに使えるツールキットにより、攻撃者はフィッシングやマルウェア、ランサムウェアのキャンペーンを簡単に仕掛けられます。その結果、攻撃の件数と規模が急増しています。

• 検知回避能力：機械学習モデルにより、サイバー犯罪者はセキュリティシステムにリアルタイムで適応できるため、検知が難しくなります。攻撃パターンが自動的に変化し、既知の防御策を回避することもあります。

• 攻撃のスピード：AIによって攻撃のライフサイクルが短縮されます。侵害の発生が速まり、セキュリティチームが侵入に気づく前に、攻撃者がシステム間を移動できてしまいます。

最近のMicrosoftのレポートでは、憂慮すべき増加が明らかになりました。同社が追跡する国家支援型および金銭目的の脅威アクターは、300から1,500に増加しています。また、パスワード攻撃は2021年の毎秒579件から、2024年には毎秒7,000件超に増えました。多くの場合、AIを利用する攻撃者は、悪意のあるリンクがクリックされてからわずか1時間余りで、企業システムへのアクセスを獲得できます。

AIが高度な攻撃手法を可能にする

AIは新たな脅威を生み出すだけでなく、従来からある攻撃手法をより危険にし、検知しにくくします。サイバー犯罪者はAIを使って従来の戦術を効率化し、より幅広い標的に対する成功率を高めることができます。

• マルウェアの生成：AIは、時間とともに進化し、セキュリティ制御を回避する方法を学習するマルウェアの作成を攻撃者に支援します。その結果、従来型のウイルス対策ツールの効果が大きく損なわれることがあります。

• フィッシングの自動化：生成AIツールを使えば、攻撃者は説得力のあるフィッシングメールやテキストメッセージ、音声メッセージを作成し、テンプレートをもとにキャンペーンをカスタマイズできます。

• ランサムウェア配信の最適化：ダークAIはランサムウェア攻撃を個別に最適化し、手順を自動化して、特定のシステムに合わせて攻撃を最適化できます。

• ソーシャルエンジニアリング：AIは被害者のオンライン上の行動やコミュニケーションのパターンを分析し、より本物らしく見えるようソーシャルエンジニアリングの手法を調整します。そのため、ユーザーが不審な活動を見抜くことが難しくなります。

実際に使われているダークAIツール

現在、脅威アクターは、高度なサイバー攻撃を容易に仕掛けるための設定済みツールを利用できます。サイバー犯罪用に独自開発されたものもあれば、オープンソースツールを悪用目的に転用したものもあります。たとえば、次のようなツールがあります。

• FraudGPT：低価格のサブスクリプション型GenAIツールで、悪意のあるコードやマルウェア、フィッシングメールの作成を自動化します。攻撃者による脆弱性や侵害されたサイトの発見にも使われます。

• DarkBARTとDarkBERT：DarkBARTはGoogle Bardをベースとしており、標的を絞った攻撃を作成できます。DarkBERTには2つのバージョンがあります。一方は正規のサイバー犯罪ツールをベースとし、もう一方はダークウェブを学習データとして活用し、脆弱性を悪用します。

• オープンソースツール：悪意ある攻撃者は、Nmap、Shodan、Metasploit、SQLMapなどのオープンソースツールを使い、偵察や脆弱性の悪用、新たなマルウェアやフィッシングキャンペーンの作成を行います。

ダークAI攻撃の実例

標的型データ侵害から金銭詐欺まで、ダークAIがもたらす現実の被害がすでに組織で発生しています。攻撃者がAIをどのように悪用しているのか、最近の事例をいくつか紹介します。

• ディープフェイク詐欺：注目を集めた事例の一つでは、攻撃者がディープフェイク技術を使って、金融サービス企業の最高財務責任者（CFO）になりすましました。従業員をだまして、2,500万ドルを不正な口座に送金させました。

• Activisionを狙ったフィッシング攻撃：Activisionの特権ユーザーを標的に、機密性の高い社内情報の窃取を狙うSMSフィッシングが行われました。同社は重大な侵害を否定しましたが、セキュリティ研究者は、AIで強化されたソーシャルエンジニアリング攻撃が見抜きにくくなり、防ぐことも難しくなっていると指摘しました。

• T-Mobileへのスパイ活動：国家支援型グループがT-Mobileのインフラにある脆弱性を悪用し、標的となった人々の通話記録、暗号化されていないメッセージ、音声通信にアクセスしました。

危険にさらされるデータプライバシー

ダークAIは、データプライバシーの根幹を脅かします。高度な攻撃を使う脅威アクターは、クレジットカード番号や医療記録、個人的な通信などの個人情報や機密データにアクセスできます。こうしたデータは、個人情報の窃取や恐喝、金銭詐欺など、二次的な攻撃に悪用されます。

攻撃者は、なりすましたIPアドレスやVPN、プロキシネットワークなどの手法を使って、発見されないよう努めています。こうした手法により、GDPR、HIPAA、PCI-DSSといった厳格なデータ保護の枠組みであっても、適用が難しくなることがあります。

データ暗号化やアクセス制御、リアルタイム監視など、強固で先を見越したデータ保護対策を講じておくことが、攻撃者の侵入を許した場合の被害を最小限に抑える鍵となります。

ソーシャルメディアやコミュニケーションプラットフォームの悪用

ソーシャルメディアやコミュニケーションプラットフォームが、AIを利用した詐欺の侵入口として使われるケースが増えています。攻撃者はLinkedInやTwitterで経営幹部になりすまし、FacebookやInstagramのプロフィールから個人情報を集め、ディープフェイクやAIボットを使って世論を操作することさえあります。

AIは、より説得力のあるメッセージを作り、より個人に合わせたデータを集めることで、詐欺を見抜きにくくします。そのため、ブランドへの信頼とユーザーのプライバシーを守ることが、ますます重要になっています。従業員への継続的な啓発、本人確認プロセスの強化、外部に公開されているチャネルの適切な監視は、AIを活用したソーシャルエンジニアリングのリスク低減に役立ちます。

ダークAIがもたらす広範な影響

ダークAIの影響は、個々の企業にとどまりません。AIが生成したコミュニケーションの検知が難しくなり、攻撃がより個人的で標的を絞ったものになるにつれて、信頼やコミュニケーション、意思決定への広範な影響が顕在化しています。自社システムの保護にとどまらず、ダークAIに対抗する組織は、業界やコミュニティ全体の信頼を維持する役割も担っています。ダークAIがもたらす広範なリスクには、次のようなものがあります。

• 権威ある人物へのなりすまし：攻撃者は、企業のリーダーや同僚になりすまし、組織内に混乱や不信感を生み出すことがあります。

• 真実の揺らぎ：AI生成メディアの増加により、正当なコンテンツと悪意あるコンテンツを見分けることがますます難しくなっています。

• 社会からの信頼の喪失：AIを利用した詐欺やデータ侵害に巻き込まれた場合、組織は顧客やパートナー、社会からの信頼を失う可能性があります。

ダークAIから組織を守る方法

ダークAIやその他の新たなサイバー脅威から身を守るには、組織のあらゆる層に、先を見越したレジリエントなセキュリティ対策を組み込む必要があります。適切なテクノロジー、継続的な教育、強固なセキュリティ基盤を組み合わせることで、イノベーションを妨げずにリスクを低減できます。先手を打つためのヒントを紹介します。

新たな脅威を追跡する

AIを活用した新たな攻撃手法やツール、戦術について、常に最新情報を把握しましょう。脅威インテリジェンスフィードやコミュニティの最新情報、業界レポートを活用すれば、攻撃者が新しいテクノロジーをどのように利用するかをチームが予測しやすくなります。

従業員をトレーニングする

AIで強化されたフィッシングやディープフェイク、ソーシャルエンジニアリングを見抜き、対応できるよう、チームを支援しましょう。定期的なトレーニングでセキュリティ意識を高めれば、従業員を効果的な第一の防御線にできます。

AIでセキュリティを強化する

AIは新たな危険をもたらす一方で、善の力にもなり得ます。異常を検知し、ゼロデイ脅威を見つけ、対応を自動化する高度な検知ツールを活用しましょう。Snykのようなセキュリティソリューションは、開発ワークフローにセキュリティを組み込んでシフトレフトを実現し、脆弱性をできるだけ早期に発見・修正できるよう支援します。

AIレッドチーミング

こうした高度な脅威に対抗するため、セキュリティチームは攻撃者の視点で考えることができます。AIレッドチーミングは、倫理的なハッカーがAIを使って組織のシステムやアプリケーション、データに対する現実的な攻撃をシミュレーションする、先を見越したセキュリティ対策です。従来のレッドチーミングを発展させ、AIツールで偵察や脆弱性の悪用、複雑なネットワーク内の移動を自動化することで、現代の攻撃者の戦術を再現します。

AIを使って弱点を探ることで、組織は悪意ある攻撃者に悪用される前に脆弱性を特定し、修正できます。こうしたシミュレーションから得られる知見は、よりレジリエントな防御を構築し、「セキュア・バイ・デザイン」の体制を確立するうえで不可欠です。AIを活用した攻撃が当たり前になる未来に備えるための一歩となります。

Snykができること

攻撃者がダークAIを使って攻撃を高速化するなか、組織には、先を見越した開発者ファーストのセキュリティ対策で対抗することが求められます。そこで役立つのがSnykです。開発ライフサイクルの早い段階からチームにセキュリティを組み込めるよう支援し、脆弱性がどのように持ち込まれた場合でも、簡単に発見できるようにします。

DeepCode AIを搭載したSnyk Codeを使えば、開発者は手作業でレビューする場合と比べて、はるかに速く脆弱性を自動で検出、修正、優先順位付けできます。最新の開発ワークフロー向けに構築されたSnykなら、セキュリティを損なわず、チームは迅速に開発を進められます。

ダークAIの台頭により、攻撃者は速くなっただけでなく、より賢くなっています。AIレッドチーミングで次の攻撃に先手を打つ方法に関心がありますか？LLMエージェントのレッドチーミングについて詳しくはこちら。