新たな脅威の状況：AIネイティブアプリとエージェント型ワークフロー

企業はAIの実験や概念実証の段階を超えつつあります。IDCが予測する2025～2026年の「AI転換期」が近づくなか、組織は優先事項を定め、計画を立て、規模拡大に向けた構築を進めています。この変化には、タスクを自動化する自律型ツールであるAIエージェントも含まれます。テクノロジープロバイダーは、開発ワークフローの簡素化を目指しています。

表面下では、AIシステムによってソフトウェア開発ライフサイクル（SDLC）全体にわたる脅威の範囲が拡大しています。エージェントの増加につながる進化は、期待を集めています。一方で、透明性の欠如や、他のエージェントとの連携を含むワークフローの自動化により、明確な可視性やポリシーの適用がなければ、セキュリティ上の隙が生じるリスクが高まります。

AI特有の挙動を悪用する新たな脅威：

• データポイズニング — AIモデルの開発に用いるトレーニングデータを改ざんするサイバー攻撃の一種です。バイアスやハルシネーションから、バックドアアクセスやモデルの侵害まで、さまざまな問題を引き起こします。

• プロンプトインジェクション — モデルを欺いてガードレールを無視させたり、指示を誤って解釈させたりする危険な手口で、機密データの漏えいにつながることもあります。以前の記事でも取り上げたオープンソースの脆弱性は、依然として大きな懸念事項です。LLMや関連コンポーネントはほぼ毎日のように登場し、それぞれが新たなリスクをもたらす可能性があります。従来のオープンソースコンポーネントと同様、ビルドで使用する前に一つひとつスキャンして検証することが、潜在的な脆弱性の攻撃対象領域を減らすうえで不可欠です。

• フェデレーションIDの不備 — AIシステムでは、認証、認可、ユーザー識別の一貫性を保つことが難しい場合が多く、意図せず機密データが露出したり、不正アクセスのリスクが生じたりすることがあります。フェデレーションIDソリューションとして設計されたものではありませんが、AnthropicのModel Context Protocol（MCP）は、AIエージェントとエンタープライズシステム間の通信の標準化に役立ちます。まだ新しい技術ですが、急速に業界標準になりつつあります。

独自にトレーニングしたモデルを持たない組織でも、すでにAIを本番環境で稼働させているか、まもなく稼働させる可能性が高いでしょう。Gartnerによると、2026年までに独立系ソフトウェアベンダーの80%超が、エンタープライズアプリケーションに生成AI機能を組み込むと予測されています。AIエージェントも急速に普及し、新たな複雑さとリスクをもたらしています。2028年までに、Gartnerはエンタープライズソフトウェアアプリケーションの33%にエージェント型AIが含まれると予測しています。AI機能をいち早く提供しようとするベンダー間の競争は、セキュリティ制御が未成熟なまま、リリースを急ぐ状況につながりがちです。

規模拡大を見据えた導入にエージェント型AIが加わることで、AIアプリケーションのリスク管理とガバナンスには新たなアプローチが求められます。Gartnerによると、ほとんどの企業はAI TRiSM（信頼性、リスク、セキュリティ管理）の技術的制御やポリシーをまだ導入していません。

この遅れの背景には、AIシステムの予測しにくい性質があります。データやプロンプトが挙動や出力に大きく影響するため、入力によって挙動が変化し、監視の基準となる一貫したベースラインを定められません。そのため、AIシステムは柔軟に問題を解決できる一方で、脆弱性や脅威、データプライバシー規制への不適合の兆候となる異常な挙動を検出するのが難しくなります。既存の環境では多くのアプリケーションセキュリティおよびガバナンスツールで十分かもしれませんが、AI環境の不透明さがその有効性を損なうおそれがあります。

変わらないのは、セキュリティを左にシフトし、AIワークフローの早い段階から組み込むことの重要性です。SnykのAI Trust Platformは、AIコーディングツールに起因するリスクを低減し、安全でスケーラブルなAIネイティブアプリケーションを実現することで、開発者を第一に考えたセキュリティを支援します。AI BOMや重要な依存関係を含むAIコンポーネントを詳細に可視化し、Snyk MCP Serverを通じて安全なインテグレーションワークフローを実現します。

AIネイティブアプリケーションのセキュリティについて、さらに詳しく知りたい方は、ホワイトペーパー「Building AI Trust: Securing Code in the Age of Autonomous Development」をダウンロードして、AIが活用される時代に、Snykが組織の迅速な開発と安全性の両立をどのように支援するかをご覧ください。