Skip to main content

In this article

Python開発者向けAI部品表（AIBOM）：SnykでAI依存関係を可視化

著者
Headshot of Stephen Thoemmes

Stephen Thoemmes

0 分で読めます

AIがPythonのコードベースに深く組み込まれるにつれ、AIサプライチェーンを把握することが不可欠になっています。OpenAIのGPTモデルを使った開発、Hugging Face transformersの統合、コンピュータービジョンシステムのデプロイなど、アプリケーションは今や、セキュリティやコンプライアンス上の新たなリスクにつながりかねない、AIモデル、データセット、サービスが複雑に絡み合う仕組みに依存しています。

そこで役立つのが、AI部品表（AIBOM）またはML部品表（MLBOM）です。これは、アプリケーション内のAIコンポーネントをカタログ化して追跡するための標準的な方法です。Snykの新しい実験的なAIBOMツールにより、Python開発者もこうした可視性を得られます。プロジェクト全体のAI依存関係を自動的に検出し、カタログ化します。

AI部品表とは？

AI部品表（AIBOM）は、従来のソフトウェア部品表（SBOM）の概念を拡張し、機械学習モデル、データセット、トレーニングパラメーター、AIサービスとのインテグレーションなど、AI固有のコンポーネントを含めたものです。アプリケーションを支えるAI関連要素すべての一覧表と考えることができます。

Python開発者にとっては、pipの依存関係だけでなく、次の項目も把握できるということです。

  • コードが参照するAIモデル

  • 呼び出される外部AIサービスとAPI

  • トレーニングや推論に使用されるデータセット

  • モデルのバージョンと来歴情報

  • データセットやモデルアーキテクチャに関するライセンス上の影響

実例で見るAIBOM：コンピュータービジョンからAIエージェントまで

owler@OwlUbuntu:~/Documents/Snyk/ai-bom-demo$ ls
GroundingDINO  OpenHands
owler@OwlUbuntu:~/Documents/Snyk/ai-bom-demo$ snyk aibom --experimental --org=61d6c8ed-5876-4af4-a35c-95ea4131c845 > ai_bom.json^C
owler@OwlUbuntu:~/Documents/Snyk/ai-bom-demo$ cd GroundingDINO/
owler@OwlUbuntu:~/Documents/Snyk/ai-bom-demo/GroundingDINO$ snyk aibom --experimental --org=61d6c8ed-5876-4af4-a35c-95ea4131c845 --html > ai_bom.html
owler@OwlUbuntu:~/Documents/Snyk/ai-bom-demo/GroundingDINO$ cd ..
owler@OwlUbuntu:~/Documents/Snyk/ai-bom-demo$ cd OpenHands/
owler@OwlUbuntu:~/Documents/Snyk/ai-bom-demo/OpenHands$ snyk aibom --experimental --org=61d6c8ed-5876-4af4-a35c-95ea4131c845 --html > ai_bom.html
owler@OwlUbuntu:~/Documents/Snyk/ai-bom-demo/OpenHands$ google-chrome ai_bom.html
Opening in existing browser session.

実際のPythonプロジェクトでAIBOMがどのように機能するか、2つの興味深い例を見ていきましょう。

例1：GroundingDINO — コンピュータービジョンのパイプライン

GroundingDinoのSnyk AI BOMの結果。コードベースで使用されているモデル、データセット、ライブラリが表示されています。

GroundingDINOは、物体検出と自然言語理解を組み合わせた高度なコンピュータービジョンプロジェクトです。SnykのAIBOMツールを実行すると、興味深い依存関係の全体像が明らかになります。

検出されたAIモデル：

  • 言語処理用のbert-base-uncasedとroberta-base

  • 画像特徴抽出用の複数のResNetバリアント（resnet18、resnet50、resnet101）

  • bookcorpusやwikipediaなどのトレーニングデータセット

主なPythonライブラリ：

  • ディープラーニング基盤のtorchとtorchvision

  • NLPモデルとの統合に使うtransformers

  • 画像モデルの実装に使うtimm

  • インタラクティブなデモに使うgradio

このAIBOMの出力から、プロジェクトがマルチモーダルであることがすぐにわかります。また、既知の脆弱性やライセンス上の制限がある可能性を含め、特定バージョンのモデルへの依存など、注意すべき点も明らかになります。

例2：OpenHands — AIエージェントフレームワーク

OpenHandsのSnyk AI BOMの結果。コードベース内で検出されたさまざまなモデルと、その証拠および外部参照が表示されています。

OpenHandsは、さらに複雑なAIエコシステムを構成しています。AIBOMからは、大規模言語モデルとAIサービスの包括的なカタログがわかります。

幅広いモデル群
以下はその一部です…

  • Claudeファミリー全般：claude-3-5-sonnet-20241022、claude-opus-4-20250514、claude-sonnet-4-20250514

  • OpenAIモデル：gpt-4o、gpt-4-turbo、o1-preview、whisper-1

  • Google Geminiシリーズ：gemini-2.5-pro、gemini-2.0-flash-exp

  • Mistral AI：devstral-small-2505

  • Cohere：command

サービスとのインテグレーション：

  • OpenAI APIエンドポイントへの直接接続

  • Hugging Face Hubとのインテグレーション

  • 各種モデル推論ライブラリ（vllm、openai）

このAIBOMから、現代のAIアプリケーションでは複数のモデルプロバイダーやサービスを組み合わせることが多く、従来の依存関係スキャンでは見落とされる可能性のある複雑な依存関係が生まれることがわかります。

Python開発者にAIBOMの可視性が必要な理由

Pythonの豊かなAIエコシステムには、見えにくいAI依存関係が潜んでいる可能性があります。次のようなケースを考えてみましょう。

隠れたモデル依存関係

ライブラリの呼び出しを介して、コードが間接的にモデルを参照している場合があります。

from transformers import pipeline
classifier = pipeline("sentiment-analysis")  # Downloads default model

一見シンプルなこのコードは、実際には特定バージョンのモデルをダウンロードして使用するため、文書化されていない依存関係が生じます。

サービスとのインテグレーションに伴うリスク

AIサービスとのインテグレーションは、外部への依存関係を生みます。

import openai
response = openai.ChatCompletion.create(model="gpt-4")

サービスを呼び出すたびに、独自のセキュリティ上の考慮事項を伴う外部AIインフラへの依存が生じます。

モデルの来歴に関する問題

AIモデルの出所を把握することは、AIを安全に導入するうえで不可欠です。データセットが不明なモデルや、ライセンスが不明確なモデルは、法的リスクやセキュリティリスクを招く可能性があります。

SnykのAIBOMツールを使い始める

SnykのAIBOMツールは、Pythonプロジェクトの依存関係を自動的に検出します。使い方は次のとおりです。

# Generate AIBOM in JSON format
snyk aibom --experimental --org=your-org-id > aibom.json

# Generate interactive HTML visualization
snyk aibom --experimental --org=your-org-id --html > aibom.html

このツールは静的コード解析を行い、次の項目を特定します。

  • Pythonコード内のモデル参照

  • AIライブラリのインポートと使用パターン

  • サービスエンドポイントの設定

  • モデルカードの情報とメタデータ

AI依存関係がもたらすセキュリティ上の影響

AIコンポーネントには、従来の脆弱性スキャンでは見つけにくい、特有の攻撃経路があります。

モデルポイズニングのリスク

AI攻撃はモデルを直接標的にすることがあります。アプリケーションがどのモデルを使用しているかを把握すれば、モデル固有の脆弱性にさらされるリスクを評価できます。

データ漏えいの懸念

AIモデルは、モデル反転攻撃によってトレーニングデータを意図せず露出させることがあります。モデルの来歴を把握することで、こうしたリスクを評価できます。

サプライチェーン攻撃

従来の依存関係と同様に、AIモデルやサービスもサプライチェーン攻撃の標的になる可能性があります。エージェントの乗っ取りは、AIシステムに特有の新たな脅威です。

コンプライアンスとライセンス

AIモデルには、複雑なライセンス条件や使用制限が設けられていることがよくあります。AIBOMを活用すれば、モデルのライセンスや利用規約への準拠を徹底できます。

AI依存関係管理のベストプラクティス

1. AIBOMを定期的に監査する

AI依存関係の変更を追跡するため、AIBOMを定期的に生成しましょう。

# Run as part of CI/CD pipeline
snyk aibom --experimental --json | jq '.components[] | select(.type=="machine-learning-model")'

2. モデルのバージョンを固定する

従来の依存関係と同様に、AIモデルのバージョンも固定しましょう。

# Instead of using latest
model = AutoModel.from_pretrained("bert-base-uncased")

# Pin specific versions
model = AutoModel.from_pretrained("bert-base-uncased", revision="abc123")

3. モデルの更新を監視する

モデルの更新や非推奨化を追跡しましょう。AIBOMを使えば、対応が必要なモデルを特定できます。

4. AIに特化したセキュリティスキャンを実施する

AIBOMと、AI固有の脆弱性を理解するAI対応セキュリティツールを組み合わせましょう。

開発ワークフローとのインテグレーション

CI/CDとのインテグレーション

デプロイパイプラインにAIBOMの生成を組み込みましょう。

# GitHub Actions example
- name: Generate AIBOM
  run: snyk aibom --experimental --json > artifacts/aibom.json
- name: Archive AIBOM
  uses: actions/upload-artifact@v3
  with:
    name: aibom
    path: artifacts/aibom.json

コードレビューの強化

AIBOMの分析結果を活用して、AIコードレビューのプロセスを強化しましょう。AI依存関係を理解すれば、コード変更がもたらす広範な影響をレビュアーが評価しやすくなります。

リスク評価

AIBOMを定期的に分析することで、次のリスクを特定できます。

  • 集中リスク（単一のAIプロバイダーへの過度な依存）

  • ライセンスの互換性に関する問題

  • 非推奨またはサポート終了（EOL）のモデル

パフォーマンスとコストへの影響

AI依存関係管理の未来 

AIの進化に伴い、依存関係の管理はますます複雑になります。すでに次のような変化が見られます。

  • テキスト、画像、音声の処理を組み合わせたマルチモーダルモデル

  • 分散した依存関係を持つ連合学習システム

  • モデル最適化パイプラインを必要とするエッジAIのデプロイ

  • AIのハルシネーションを軽減するための、モデルアンサンブル戦略

AIBOMは、こうした複雑さを管理するための基盤となり、Python開発者が安全で信頼性の高いAIアプリケーションを構築するために必要な可視性を提供します。

GroundingDINOとOpenHandsの例が示すように、比較的用途を絞ったAIプロジェクトでも、AI依存関係のグラフは驚くほど複雑になることがあります。プロジェクトが拡大し、AI機能をさらに取り入れるほど、依存関係を明確に把握することが、セキュリティ、コンプライアンス、運用の信頼性を維持するうえで不可欠になります。

Snykの実験的なツールを使って、今日からPythonプロジェクトのAIBOMを生成しましょう。AIサプライチェーンを把握することは、AI生成コードを保護すること、そしてよりレジリエントなAIアプリケーションを構築することへの第一歩です。

AI依存関係を可視化してみませんか？ SnykのAIBOMツールを試して Pythonアプリケーションを支えるAIコンポーネントを確認しましょう。

ホワイトペーパー

AIに潜む脅威とは？

AIセキュリティ態勢管理（AISPM）について理解し、AIスタックをプロアクティブに保護しましょう。

ガイド全文を入手