シャドーAIとは？AIリスクの予防と管理

生成AI（GenAI）の爆発的な普及により、組織は新たな課題に直面しています。なかでも深刻なのが、従業員が雇用主の承認を得ずにAIツールを利用し、その利用状況が把握されていないことです。驚くべきことに、従業員の38%が、許可なく業務上の機密情報をAIツールと共有したことがあると認めています。

シャドーAIとは？

シャドーAIとは、IT部門が把握・監督していないAIツールの利用を指します。ソフトウェア開発では、GenAIツールを使ってコードの一部を作成したり、問題をデバッグしたり、ドキュメントを生成・要約したり、データを分析したりすることが該当します。いずれも正式な審査や承認を経ずに行われます。

シャドーAIでよく使われるAIツール

シャドーAIにはさまざまな形があり、誰もが利用できるようになった強力なツールやプラットフォームによって広がっています。特に開発者は幅広いAIリソースをすぐに利用できるため、IT部門の目が届かないところで構築、自動化、デプロイを進めることが可能です。よく使われるツールには、次のようなものがあります。

• 大規模言語モデル（LLM）：OpenAIのChatGPT、AnthropicのClaude、GoogleのPaLM、MetaのLLaMA、Mistral、Cohereなどのツールは、コードの生成や改善に利用されます。

• GenAIツールとプラットフォーム：事前学習済みモデル向けのHugging Face Transformers、連携に利用するOpenAI API経由のChatGPT、複雑なワークフローでLLMを連携・制御するLangChainなどのプラットフォームがあります。

• コード・開発ツール：GitHub CoPilot、Cursor、Codexなどのツールは、IT部門の監督なしにコードを生成し、タスクを実行するために使われます。

• タスクの自動化：ZapierやMakeなどのツールは、AIツール間のワークフローを自動化するために使われ、承認されていない複数のツールを連携させる可能性があります。

• カスタムツール：開発者は、ローカルリソースやオープンソースのフレームワークを使い、独自モデルを専有データや機密データでファインチューニングすることがあります。

シャドーAIはイノベーションを加速させる一方で、重大なリスクももたらします。

シャドーAIのリスクと懸念事項

シャドーAIは組織のガードレールを迂回し、データ、システム、業務、知的財産にリスクをもたらします。主なリスクは次のとおりです。

油断を招く

開発者はAI生成コードを信頼しがちですが、そのコードには脆弱性が潜んでいる可能性があります。AI生成コードの3分の1に複数のプログラミング言語で共通する弱点があるにもかかわらず、開発者の75.8%は、人間が書いたコードより安全だと考えています。その結果、開発者はバグや脆弱性をそのまま受け入れ、バグや脆弱性を特定するための追加対策を取らないことがあります。

ハルシネーションやエラーを生む

監視されていないモデルが、誤解を招く情報や明らかな誤情報を生成する可能性があるAIのハルシネーションは、重大な懸念事項です。LLMによっては、ハルシネーションの発生率が約1%から30%に及ぶことがあります。ハルシネーションに加え、モデルの推論や出力の誤りも、引き続き大きなリスクとなっています。

データリスクを招く

開発者が機密データをLLMに入力したり、データストアを立ち上げたまま放置したり、AIの学習データセットを必要以上に大きくしたり、安全でない方法でデータを送信したりすると、意図せずデータのプライバシーを損なうおそれがあります。たとえば2023年、Samsungの半導体部門では、エンジニアがChatGPTでソースコードの確認などを行った後、3件のデータ漏えいが発生しました。

コンプライアンス要件に違反する

モデル学習のためのデータの無断利用や、未承認ツールへのデータ入力は、企業を規制違反のリスクにさらします。たとえば、適切な同意やセキュリティ対策なしに機密性の高い個人データを扱うと、GDPRやCCPAなどの規制に違反し、多額の罰金や法的措置、企業の評判への深刻なダメージにつながるおそれがあります。

機械学習とシャドーAI

組織が独自のAIや機械学習（ML）モデルを開発・デプロイするケースが増えるにつれ、シャドーAIに伴うリスクも高まっています。MLモデルが侵害されると、企業戦略、事業上の優先事項、業務プロセスが漏えいする可能性があります。

• 監視不足：監視されていないモデルは、偏りのある出力や質の低い出力を生成し、パフォーマンスに影響を及ぼす可能性があります。

• バージョン管理の問題：適切なバージョン追跡を行わないと、チームが古いモデルや一貫性のないモデルを知らずに使い続ける可能性があります。その結果、変更の追跡や意思決定の根拠の説明が難しくなります。

• 説明可能性の不足：管理が不十分なモデルは透明性や説明可能性に欠けることが多く、モデルに基づく意思決定を理解、検証、正当化する取り組みを難しくします。規制対象の業界では、特に大きな課題となります。

データ管理とシャドーAI

AIツールがより手軽に利用できるようになるにつれ、従業員は生産性向上のために新しいソリューションを導入し続けますが、セキュリティリスクを考慮しないことも少なくありません。研修やポリシーの整備でシャドーAIを抑制できる一方、リスクを軽減するには、データ管理とセキュリティの強化にも取り組む必要があります。

特に、ソフトウェアとセキュリティのリーダーは、リスクベースの脆弱性管理プログラムを確立する必要があります。具体的な取り組みは次のとおりです。

• 資産の特定：すべての資産と依存関係を最新の状態で記録し、脆弱性を把握するとともに、攻撃対象領域を包括的に可視化します。

• 責任の割り当て：資産の所有者が、リスク状況の変化も含め、資産を主体的に管理・報告する体制を整えます。

• コンプライアンスと規制要件の特定：適用される規制（GDPR、HIPAA、PCI-DSSなど）を特定し、開発者を第一に考えたセキュリティツールを活用して、開発ワークフローにセキュリティとコンプライアンスを組み込みます。

• 資産と脆弱性の分類：リスク評価を実施して脆弱性が及ぼす潜在的な影響を評価し、リスクプロファイルを作成したうえで、修正作業に優先順位を付けます。

• 継続的改善の文化の醸成：未承認のGenAIツールを使うリスクや、AI生成コードのバグや脆弱性を積極的に探すことの重要性について、開発者に教育します。

シャドーAIのリスクを抑える方法

高まるシャドーAIのリスクに対処するため、先進的な組織はガードレールを設けて管理を取り戻しています。特に効果的な取り組みは次のとおりです。

• リスクの評価：暗号化の不備、設定ミス、データ漏えいのリスクを高める脆弱性など、セキュリティ上のギャップを評価します。

• AIポリシーと管理策の策定：IT部門やセキュリティチームと連携して利用ポリシーを策定し、データ取り扱いの手順を整備するとともに、AIツールのコンプライアンス監査を定期的に実施します。

• 脆弱性のスキャン：開発者中心のセキュリティツールであるSnyk Codeなどを活用し、人間が書いたコードとAI生成コードの両方をスキャンして、問題を自動で特定し、修正案を提示します。

• インシデント対応計画の策定：シャドーAIのインシデントに迅速に対応するための明確な手順を定め、データ、システム、事業運営への影響を最小限に抑えます。

強固なセキュリティプロセスでシャドーAIを防ぐ

必要なものが得られないと、開発者は自らリソースを用意することがよくあります。こうしたリスクを減らすには、セキュリティチームが開発者と緊密に連携し、承認済みのツールや明確なガイダンス、生産性を妨げないガードレールを提供する必要があります。

Snykは開発者の日々のワークフローに直接組み込まれることで、このギャップを埋めます。AI生成コードも含め、脆弱性を早期に見つけて修正しやすくします。

AI生成コードを保護するSnkyの力を、デモを予約してご確認ください。