無限に広がるシグナルの時代のセキュリティガバナンス — 発見から制御へ

Anthropicが脆弱性を大規模に発見する技術をオープンソース化。では、次に何をすべきでしょうか？

数週間前、AnthropicはAIを活用して大規模に脆弱性を特定する、1億ドル規模の取り組みGlasswingを開始しました。同じ頃、ソフトウェアの欠陥を自律的に発見し、悪用できるシステム、Claude Mythosも発表しました。

この流れについては、前回の分析で取り上げました。AIによって発見は加速しますが、企業が信頼を確保するには、決定論的な検証、修正の自動化、大規模なガバナンスが欠かせません。それ以降に起きたことはすべて、この見解を裏付けるとともに、次の一歩の緊急性を高めています。検知から制御へと移行する必要があるのです。

AnthropicのSystem Card: Claude Mythos Preview（PDF）には、明確に記されています。この種のシステムは、広く一般に公開できる段階にはありません。飛躍的な進歩とリスクが同時に訪れる。この緊張関係こそが、企業のAIセキュリティの新時代を特徴づけています。

機能が増えても、セキュリティが高まるとは限らない

このような発表があるたびに、議論は二つに分かれます。AIはセキュリティに役立つのか、それとも新たなリスクをもたらすのか。どちらの側も認めたくないほど重大な答えは、その両方です。Mythosのようなシステムは、何十年も発見されなかった脆弱性を見つけ、複雑な環境を横断して推論し、人間のチームにはかなわない速度で動作できます。

しかしその一方で、コードの生成速度はレビューの速度を上回り、動作の予測は難しくなり、攻撃対象領域は拡大し、自律型システムは本番環境で実際に動作し始めています。

制御を伴わない発見はリスクを生む

経験豊富なセキュリティリーダーたちは、こうした発表にすばやく反応し、重要な視点を示しました。ある元企業CISOはこう述べています。「すべての実務担当者が求める指標が欠けていると、脆弱性の数は目論見書のように見え始める。」

システム上重要な金融機関のセキュリティリーダーたちは、すでにこのように考えています。ソフトウェアのサプライチェーンが加速するにつれ、システミックリスク管理の制約要因となるのは、発見ではなくガバナンスだと認識しているのです。

実際には、こういうことです。検証を伴わない検知はノイズを生み、優先順位付けのない発見はバックログを生み、ガバナンスのない機能はリスクを生みます。セキュリティを定義するのは、何を見つけられるかだけではなく、何を制御できるかです。

AIシステムも、今や脅威モデルの一部

ここで最も重要なシグナルは、システムに何ができるかだけではありません。開発者自身がシステムについて何を伝えているかです。

Anthropicはプレビューのドキュメントで、制約された環境から脱出し、外部システムにアクセスし、意図的に対象外とされた機密認証情報を取得し、実行中のプロセスを変更し、内部の成果物を漏えいさせたモデルについて説明しています。場合によっては、動作を隠したり、評価の仕組みを操作したりする兆候も見られました。

少し立ち止まって考えてみてください。こうしたシステムを開発している企業が、公式にこう述べているのです。「これは、当社がこれまで公開したものの中で最も重大なアライメントリスクであり、取り返しのつかない被害をもたらす可能性のある環境には導入すべきではありません。」

最近の出来事は、この点をさらに明確にしています。Claude Codeの情報漏えいのように、AI開発ツールの内部構造が露呈すると、その弱点を見つけて悪用するために必要な労力は大幅に減ります。見えなかったものが分析可能になり、ひいては攻撃可能になるのです。

IDCが指摘しているように、業界はAIが生成するコードの保護に多くの力を注いできましたが、ソフトウェアサプライチェーンにおけるツール自体の保護には、ほとんど目を向けてきませんでした。

考えてみてください。本番環境向けのコードを生成し、脆弱性を発見し、複雑なワークフローを調整する同じシステムが、意図された境界を越えて動作し、機密システムにアクセスし、予測や監査が難しい判断を下すこともできるのです。

システムの能力が高まるほど、動作は決定論的でなくなり、ガバナンスは難しくなります。開発企業がシステムの動作について明確に警告しているなら、すべての企業が考えるべき問いは単純です。自社環境に導入した後、誰がそのガバナンスに責任を持つのでしょうか？

AI時代に起きている3つの大きな変化

1：シグナルが増えるほど、制御がなければリスクも増える

長年、セキュリティ業界には一つの制約がありました。見つけられるリスクが十分ではなかったのです。その制約はもうありません。検知の可能性が事実上無限に広がり、コード生成が加速し、AIが開発プロセスに直接関与する時代に、私たちはいます。

見つけられるリスクが増えるほど、管理は難しくなります。これがセキュリティにおけるAIのパラドックスです。ボトルネックはもはや発見ではなく、制御なのです。

これは運用モデルの根本的な変化です。セキュリティリーダーは、これから次の問いに答える必要があります。

• この環境で重要なものは何か？

• どのような動作が許可されるのか？

• リスクの優先順位をどう決めるのか？

• 修正をどう徹底するのか？

• 人間の開発者とAIシステムの両方にわたって、どうガバナンスを維持するのか？

2：AIはリスクについて推論できても、制御はできない

AIは発見や修正はできても、制御を任せることはできません。AIシステムは、脆弱性の特定、修正の提案、攻撃経路のシミュレーションなど、推論の能力を急速に高めています。しかし、企業のセキュリティを支えるのは推論ではなく、実効性のある制御です。

AIにリスクについて推論させることはできます。しかし、コンプライアンスを保証させることはできません。つまり、次のことが求められます。

• ポリシーを一貫して適用する。

• 制御を予測可能に機能させる。

• 修正を検証する。

• リスクを監査可能にする。

3：セキュリティの重点は発見から制御へ移った

検知が広く普及するにつれ、新たなレイヤーが不可欠になります。シグナルをコンテキストに変換し、ポリシーを一貫して適用し、重要なものを優先し、修正を調整し、人間と機械の両方にわたってガバナンスを徹底する制御プレーンです。

発見は入力に、制御はシステムに、ガバナンスは成果になります。セキュリティは、もはやリスクを見つけることではありません。リスクを制御することです。

ただし、この議論で見過ごされがちな点を、はっきり述べる必要があります。すべてを制御することはできませんし、それを期待するのも現実的ではありません。

制御が極めて重要であることに変わりはありません。しかし、十分に堅牢な制御フレームワークがあれば、あらゆる侵害を防ぎ、すべての攻撃経路を見つけられるという考えは幻想です。脅威環境の変化はあまりに速く、システムはあまりに複雑で、AIはまだ全容を把握できていない新たな障害パターンを生み出しています。

だから問うべきなのは、「これをどう防ぐか」だけではありません。「必ずすり抜けるものが出たとき、どれだけ速く検知して対応できるか？」も問う必要があります。

インシデント対応は最後の手段ではありません。中核となる能力であり、その重要性は年々高まっています。優位に立つチームは、単に最も厳格な制御を備えているだけではありません。攻撃者が被害を拡大するよりも速く、封じ込め、対応し、復旧できるチームです。AIシステムの自律性が高まり、個々の障害による影響範囲が広がるなか、この対応力は本物の競争優位性になります。

予防と対応を組み合わせても、全体像はまだ見えません。必要なのは、セキュリティ態勢を絶えず見直し、改善し続ける、卓越したセキュリティの専門知識と、テクノロジーだけでなく攻撃者を理解する人材です。そのためには、最適なAIモデルを複数導入すること（一つだけではなく複数です。モデルごとに強みが異なり、一つに依存することは単一障害点になるためです）、最高水準の決定論的なルールセットと最先端の分析手法、そして自動化だけでは補えないギャップを埋める、人間ならではの直感と判断力を備えた経験豊富なセキュリティ専門家が必要です。

最高水準のAI、決定論的な制御、人間の専門知識を組み合わせたものこそ、Snykが構築しているものです。どのレイヤーも単独では十分ではなく、脅威環境の変化があまりに速く、一つのアプローチだけでは追いつけないからです。あらゆるレイヤーに最適なツールを導入し、脅威とともに進化できる、包括的なセキュリティスタックとして連携させています。

一方で、AIはすでに本番環境で使われていますが、ガバナンスは追いついていません。組織はAIが生成したコードを本番環境にリリースし、重要なワークフローにモデルを組み込み、自律型システムに代わりに行動させています。

制御レイヤーがなければ、際限のないリスクへの露出、一貫性のない修正、限られた可視性、強まる規制圧力につながります。適切なモデルがあれば、リスクを測定可能にし、修正を拡張可能にし、AIをガバナンス可能にし、セキュリティを真の戦略的優位性に変えられます。

次のセキュリティ時代を定義するのは制御

Anthropicの発表が示すのは、セキュリティの未来を決めるのは、どれだけ多くのリスクを発見できるかではないという根本的な変化です。未来を決めるのは、リスクをどれだけ適切に制御できるかです。

無限のシグナルが存在する世界では、検知は当たり前になり、ノイズは危険になります。制御が重要です。対応速度が重要です。確かな専門知識に基づく継続的な改善が重要です。この3つすべてに同等の力を注ぐ組織なら、AI時代のセキュリティの現実に備えられます。

優れたプラットフォームが目指しているのは、まさにこの変化です。生のシグナルを、強制力のあるポリシー、検証済みの修正、AI主導の開発とともに拡張できるガバナンスへと変えることです。

経営層が向き合う現実

要点はこうです。AIが変えているのは、リスクの見つけ方だけではなく、リスクの姿そのものです。今日、ソフトウェアを構築するシステムは、かつてないほど速く、賢く、予測しにくい動作をします。そのため、取締役会、CISO、経営幹部は、明確な問いに直面します。AIが予期しない動作をしたとき、誰が責任を負い、リリース前に誰がガバナンスを担うのでしょうか？

これを正しく実践できる組織は、あらゆる脆弱性を追いかけることはありません。大規模にリスクを制御し、リアルタイムでガバナンスを徹底し、無限のシグナルを実行可能で監査可能な判断に変えます。そして、避けられない障害が起きても、危機に発展する前にすばやく対応できます。

優れたプラットフォームが目指しているのは、生のシグナルを、強制力のあるポリシー、検証済みの修正、AI主導の開発とともに拡張できるガバナンスへと変えることです。Snykが今まさに構築しているのも、この未来です。

AI時代に、制御は選択肢ではありません。信頼を築く唯一の道です。