アイデアをインパクトへ：ベイエリアが切り拓くセキュアAIの未来

生成AIは、ソフトウェアの開発、セキュリティ確保、スケールのあり方を変えつつあります。シリコンバレーで開催されたSnykのLighthouseイベントには、エンジニアリング、セキュリティ、プラットフォーム各チームのリーダーが集まり、大きな問いについて考えました。信頼を損なうことなく、スピード感を持ってAI搭載システムを構築するにはどうすればよいのでしょうか。

多くの組織にとって、その未来はすでに到来しています。サミットに参加した組織の60%が、社内でエージェント型アプリを開発していると回答しました。

答えは、技術面だけにあるわけではありません。文化、組織、戦略も重要です。

エージェント型アプリからリアルタイムのリスクモデリングまで、当日のワークショップ、パネルディスカッション、デモを通じて、いくつかのテーマが一貫して浮かび上がりました。可視性は力になる。ガードレールは障壁ではない。そして、信頼は将来取り組む課題ではなく、すべての基盤であるということです。

新しい開発ループ：考える → 構築する → セキュリティを確保する → 繰り返す

スピードとセキュリティは相反するものではなく、互いに不可欠です。そしてAIは、その関係性を変えました。エージェントが継続的に生成し、推論し、行動する環境には、従来のSDLCモデルは適合しません。

Lighthouseのセッションでは、エージェント型AIに合わせて開発ワークフローをどう進化させるべきかが議論されました。固定的な承認を減らし、動的で状況に応じたフィードバックを増やすこと。リアルタイムの修正、AIに精通したセキュリティチャンピオン、そしてAIアシスタントを構築するだけでなく、そのセキュリティも確保する開発者が求められます。

特に印象的だったのは、CursorとSnykのライブデモです。コードを1行も書くことなく、SnykのDeveloper Relations担当シニアディレクター、Randall Deggesが、スキャン、テスト、修正、リリースまでを実行する実際のワークフローを紹介しました。その間、SnykのMCPサーバーは脆弱性を検証し、リスクの高いパターンにフラグを立て、安全な更新をCI/CDパイプライン経由で適用しました。

その成果は、品質や制御を損なうことなく、何時間もかかっていたセキュリティ修正を数分に短縮できたことです。

設計段階からセキュアにすることは、全員でセキュリティを守ること

当日の中心的なテーマの一つは、責任を共有することでした。AIによって開発、プラットフォーム、セキュリティ各チームの境界が曖昧になり、今や全員が関わる必要があります。

ある登壇者は、こう明快に語りました。「ChatGPTにプロンプトを貼り付けてワークフローを作る人は、アプリ開発者です。そして今や、すべての開発者がAIエンジニアになる可能性があります」

これは、準備ができている状態の定義を変えます。

イベントで紹介されたSnykのAI Readiness Frameworkでは、可視性、責任の所在、セキュアな設計、組織文化の醸成、継続的な保証という5つの柱が強調されました。参加者は実際のユースケースをもとに各領域の成熟度を評価し、ギャップや機会を洗い出しました。

主なポイント：

• AIセキュリティは専門領域ではなく、チーム全員で取り組むもの。 優れたAIセキュリティエンジニアは、全体像を理解するアプリ開発者出身であることが少なくありません。

• ゲートではなく、ガードレールを。 AIの導入を遅らせるのではなく、より安全かつ迅速に進めることが目標です。

• ガバナンスが重要。 シャドーエージェントから自動で有効化されるSaaS機能まで、セキュリティチームは最初から議論に加わる必要があります。

ある参加者は、こう見事に要約しました。「最大のセキュリティリスクは生成AIではありません。生成AIを従来のソフトウェアと同じように扱うことです」

AIへの信頼には、コンプライアンスを超えた取り組みが必要

NISTのAI RMFのようなフレームワークは大局的な視点を示してくれますが、ベイエリアの参加者が求めていたのは理論だけではありません。実践的で、先を見据えた戦略でした。

議論はすぐに、次のようなトピックへと広がりました。

• MCPの検出と検証：どのモデルが、どこで稼働しているのか。誰が学習させたのか。どのようなデータが使われたのか。本番環境で機密情報を漏えいしたり、予測不能な振る舞いをしたりしていないか。

• エージェントの振る舞いに対するレッドチーム演習：プロンプトインジェクションや出力のファジングにとどまらず、敵対的なやり取りをリアルタイムでどうシミュレーションするか。

• セキュリティ・インセプション：シフトレフトをさらに推し進める新たな領域。デプロイ後ではなく、生成されるまさにその時点で、セキュアなコンテキストを組み込むことです。

際立っていたのは、イノベーションだけではなく、率直さでした。失敗やニアミス、可視性の予想外の不足について率直に語ることで、この分野がいかに急速に進化しているかが浮き彫りになりました。そして、AIセキュリティの構築は、AIそのものの構築と並行して進めなければならない理由も明らかになりました。

人を育て、マシンを守る

AIが全員の責任であるなら、すべての役割の人がその責任を果たせるよう、どう支援すればよいのでしょうか。

この問いから、AIセキュリティのトレーニングと認定資格の未来について、当日最も活発な議論の一つが始まりました。

複数の企業が、AI特有のワークフローや責任を盛り込む形で、セキュリティチャンピオンプログラムを進化させていると共有しました。また、セキュリティ、法務、コンプライアンス、さらにはマーケティングの担当者も含めたAIガバナンス評議会の設置について話し合う企業もありました。

一貫して語られたテーマは、文化が取り組みを何倍にも高めるということです。組織が受け入れてこそ、チームのスキル向上は効果を発揮します。あるリーダーはこう話しました。「セキュリティ意識の向上は、ポリシーの徹底だけではいけません。毎日、より良い判断を促す方法、つまり選択をデザインする取り組みである必要があります」

今と、これから

ベイエリアのイベントで語られたのは、未来への期待ではありません。今まさに起きている変革でした。

参加者は、今後登場するSnykの機能を一足先に見ることもできました。しかし、最も価値ある内容は、同業者との議論や実践的なデモ、そして次のような認識から得られました。

• エージェント型システムは、すでに本番環境で稼働している。 社内向けであれ社外向けであれ、企業はNPSの向上、業務の自動化、大規模なサービスのパーソナライズを実現するために、AIに期待を寄せています。

• セキュリティは後手に回り続けるわけにはいかない。 SaaSインテグレーションの可視性不足から、スタック内で把握されていないエージェントまで、攻撃対象領域は急速に拡大しています。

• イノベーションには、今すぐガードレールが必要。 医療技術業界から参加したある人は、こう語りました。「リリース後に幻覚について考え始めても遅すぎます。最初から追跡可能性と制御を組み込む必要があります」

最後に伝えたいこと：AIはソフトウェアの未来です。それに応じて、セキュリティもスケールさせなければなりません。

締めくくりの挨拶で、SnykのChief Innovation OfficerであるManoj Nairが、すべてをまとめました。

セキュリティとは、AIに「ノー」と言うことではありません。責任ある導入を加速し、開発者を支援し、プラットフォームチームの力を引き出し、AIのSDLCのあらゆる段階で信頼を築くことです。

「今日、私たちはそれを目の当たりにしました」と彼は語りました。「AIシステムが自らコードを書き、テストし、脆弱性を修正する姿です。しかし、可視性、文化、適切なガードレールがなければ、どれも実現しません」

未来はDevSecOps 2.0ではありません。それを超えるものです。開発者が主役となり、AIが力を補い、信頼を重視する。その実現を支えるプラットフォームを、Snykは構築しています。