AI攻撃と脅威：どのようなもので、どのように機能するのか？

人工知能（AI）が、私たちの知る世界を大きく変えていることは間違いありません。この新しいテクノロジーには多くの利点がある一方で、AIを利用したサイバー攻撃の可能性も生み出しています。攻撃者はAIを使って既存の脅威をより効果的にしたり、新たな攻撃経路を作り出したりします。先手を打つために、企業はさまざまなAI攻撃からシステムを守る方法を検討する必要があります。

AIリスクを詳しく知るには、OWASP LLM Top 10のガイドをご覧ください。

AI攻撃とは？

攻撃者は、組織が導入したAIシステムを悪意のある目的に利用するよう操作できます。この攻撃は、機械学習（ML）モデルの制約を見つけ、それを悪用することで発生します。

攻撃者は、AIを攻撃技術の強化にも利用します。AIによって攻撃を自動生成して数を増やしたり、エクスプロイトそのものを生成したりするため、組織が自らを守ることはより困難になります。

CISOがAI攻撃を把握すべき理由

CISOは、AI技術によって攻撃の数が増加する脅威と、自社のシステムが攻撃者に悪用される可能性の両方を考慮する必要があります。企業が重要なインフラにAIを活用するほど、AI攻撃への防御がますます重要になります。

AI攻撃の仕組み

攻撃者は自らの攻撃にAIシステムを活用することで、より大規模に組織を攻撃できます。AIを使えば、より本物らしいフィッシングやソーシャルエンジニアリングの手口を作成できるため、従業員がだまされる可能性も高まります。 

攻撃者はAIを使って、次の攻撃手法を強化します。

• LLMJacking：大規模言語モデル（LLM）を不正に乗っ取ったり操作したりして、制御権の取得、機密データの抽出、動作の変更を行うこと。

• フィッシング：攻撃者は生成AIを活用して標的に合わせたフィッシングメールを作成し、受信者が本物だと信じやすくします。

• マルウェアと脆弱性の発見：攻撃者はAIを使ってシステムのエクスプロイトを見つけ、マルウェアを作成することもできます。たとえば、最近の調査では、ChatGPTが変化を続ける動的な悪意あるコードを生成できることが示されました。この新技術によって、初心者でも高度なエクスプロイトを実行できるようになり、サイバー攻撃のハードルが下がっています。 

• ソーシャルエンジニアリング：攻撃者はディープフェイク技術を使って、身近で信頼されている人物の音声や動画を生成し、標的に本人だと思い込ませることができます。

よくあるAI攻撃とは？

AIは既存の攻撃経路を強化するだけでなく、今日の組織に前例のないリスクをもたらす新たな手法を攻撃者に生み出させます。 

AI攻撃を防ぐ7つの戦略

AIの世界は難しく感じられるかもしれませんが、企業がAIを利用したサイバー攻撃から身を守るために実践できる方法は7つあります。 

• 防御にAIを活用する。企業はAIツールを活用して、コード分析、ナレッジベースの保守、セキュリティ態勢のモデリングなど、セキュリティのベストプラクティスを実践できます。

• 用途に適したAIモデルを使う。AIモデルが正確で、想定された用途に合わせて調整されていれば、悪用される可能性は低くなります。 

• サイバーリスクへの意識を高める従業員研修を実施する。ディープフェイクなどのAI技術によってソーシャルエンジニアリングがより巧妙になるため、従業員はサイバーリスクの特定と回避について十分な研修を受ける必要があります。

• 多層防御を徹底する。特にAI攻撃のような高度化する脅威に対応するには、プロジェクトやアプリケーションを単一のセキュリティレイヤーだけで守るのではなく、多層防御を採用する必要があります。

• 「temperature flags」を活用する。これらの指標は、モデルの出力における創造性の度合いを定めます。temperatureを高くすると、AIモデルから同じ出力を繰り返し得ることが難しくなります。企業はtemperature flagsを使い、創造性が足りない状態と、自由度が高すぎてリスクが生じる状態とのバランスを取る必要があります。

• AIベースのアプリケーションを保護する。アプリケーションセキュリティはアプリ開発のあらゆる段階に組み込むべきですが、AIベースのアプリの保護にも重点を置くことが重要です。

• AIアプリケーションセキュリティのベストプラクティスに従う。

SnykがAI攻撃の防止を支援する方法

AIがアプリケーション開発の中核となるにつれ、AIのライフサイクル全体を保護することが不可欠です。開発者を第一に考えるSnykのセキュリティプラットフォームは、AIベースのアプリケーションを基盤から守るために、包括的な可視性と制御を提供します。

AIが生成したコードを保護する

AIアシスタントが書いたコードは本質的に安全だという誤解がよくありますが、これは事実ではありません。AIモデルは膨大なデータセットで学習するため、そのデータに脆弱なコードが含まれていれば、同じセキュリティ上の問題を意図せず持ち込む可能性があります。Snyk Codeは、この課題に対応するために開発されました。

セキュリティの専門家が厳選したセキュリティ特化データと、複数のファインチューニング済みAIモデルを活用するDeepCode AIは、人間が書いたコードかAIが書いたコードかを問わず、コードを理解して分析するよう設計されています。IDE内でコードをリアルタイムにスキャンし、脆弱性が現れると検出します。 

さらに、Snyk Agent Fixなら、ワンクリックで安全な修正を自動生成して適用できるため、開発者はセキュリティを犠牲にすることなく、開発スピードを維持できます。AIで生産性を高める際に、知らないうちに新たな脆弱性を持ち込んでしまう事態を防ぎます。

AIアプリケーションを保護する

コードそのものを保護するだけでなく、Snykは開発中のAIアプリケーションの保護も支援します。AIシステムには、プロンプトインジェクションやモデル窃取といった固有の攻撃経路があります。攻撃者はモデルへの入力を操作して意図しない動作を引き起こしたり、学習済みモデルの知的財産を盗んだりする可能性があります。

Snykのプラットフォームは、AIネイティブアプリケーション全体にわたる可視性とガバナンスをエンドツーエンドで提供します。Snykは次のことを実現します。

• AI-BOM（AI部品表）を提供：AIアプリケーションを構成するコンポーネント、データソース、モデルをすべて把握できるため、リスクを追跡・管理できます。

• 依存関係の脆弱性を特定：AIベースのアプリケーションは、複雑なオープンソースライブラリに依存しています。Snyk Open Sourceはこれらの依存関係をスキャンし、サードパーティ製パッケージから脆弱性を引き継がないよう支援します。

• セキュリティポリシーを適用：Snykを使えば、セキュリティポリシーを作成して適用し、AI開発ワークフローが組織や業界の基準に準拠していることを確認できます。信頼できる基盤の上にアプリケーションを構築できる安心感が得られます。

AI時代のセキュリティを加速しませんか？

脅威は進化しており、防御も進化させなければなりません。AIを防御に活用し、よりレジリエントなアプリケーションを構築する、プロアクティブなセキュリティ戦略の導入方法をご紹介します。 

まずはチートシート「モダンDevSecOps：AIで加速するセキュリティのベストプラクティス6選」をダウンロードしてください。