AI用語集

エージェント型開発の時代に、AIセキュリティエージェントのチームを活用して、組織のアプリケーションセキュリティプログラム全体を運用する取り組みです。アプリケーションの理解、脅威のモデル化、重要な脆弱性の検出、修正の優先順位付け、修正の生成と検証、そして修正が有効であることの確認まで、すべてのプロセスを網羅します。新規コードと既存のバックログの両方に対して、これらを継続的に実施します。

AIシステムの安全制約を回避し、制限された内容や有害な出力を生成させる手法。AIセキュリティテストにおける重要な懸念事項です。

パターン分析やデータフロー分析に大規模言語モデルの推論を組み合わせた静的アプリケーションセキュリティテスト。既知の危険なコードパターンとの照合に加え、アプリケーションの意図やロジックも評価できます。

AIをセキュリティ運用に統合し、脅威の検出、インシデント対応、SOCのワークフローを自動化すること。サイバーセキュリティ防御のスピードと精度を高めます。

AIにおける信頼性、リスク、セキュリティ管理（Trust, Risk, and Security Management）の略称です。AIシステムの安全性、信頼性、コンプライアンスを確保するためのガバナンスアプローチです。

AI部品表。AIコンポーネント、データセット、依存関係の詳細な一覧です。来歴の追跡や、AIサプライチェーンのリスク管理に役立ちます。

モデルガバナンスや脅威のモニタリングなど、組織のAI関連のセキュリティポスチャを継続的に評価し、改善すること。

ユーザーやシステムに代わってタスクを実行する、人工知能を搭載したソフトウェアエンティティ。セキュリティ分野のAIエージェントは、脅威の監視、インシデントへの対応、自動化されたワークフローの実行などを行います。

AIエージェントがタスクを実行する際に依存する、ツール、インテグレーション、コンポーネント、入力のエコシステム。MCPサーバー、API、外部サービス、スキル、その他、エージェントの振る舞いや生成する内容に影響を与える依存関係が含まれます。

AIエージェントが信頼できない、または安全でないツール、インテグレーション、入力を利用することで生じるリスクです。これにより、データの漏えい、意図しない操作、ソフトウェア開発中の脆弱性の混入につながる可能性があります。

クラウド環境でホストされるAIワークロード、モデル、データを保護すること。クラウドセキュリティのプラクティスと、データ漏えい、モデルの盗難、敵対的攻撃から守るAI固有の対策を組み合わせます。

AIコーディングアシスタント（Cursor、GitHub Copilot、Claudeなど）は、一般的で広く普及しているAIエージェントの一形態です。エージェントの機能を開発者のワークフローに直接組み込むことで、開発環境内でのコード生成、ツールの利用、タスクの自動実行を可能にします。さらに高度なエージェントは、コーディングアシスタントの枠を超え、システム間で自律的に動作し、ワークフローをオーケストレーションし、人間から直接指示を受けることなく複数のツールと連携します。

AIシステムが関連する法律、規制、業界標準を遵守すること。サイバーセキュリティにおいては、責任あるAIの利用に向けたデータ保護、監査可能性、ガバナンスの枠組みが含まれます。

AIが安全でない、または許可されていない出力を生成しないようにする、あらかじめ定められた安全性とコンプライアンスの境界。エンタープライズでAIを導入するうえで不可欠です。

AIシステムで使用されるデータを、収集、保存、学習、推論を含むライフサイクル全体にわたって保護することです。データ侵害や漏えい、データポイズニング攻撃を防ぎます。

LLMなどのAIモデルを使用してソースコードを自動生成すること。サイバーセキュリティの分野では、開発を加速できる一方、脆弱性を防ぐためにセキュリティレビューも必要です。

攻撃者がシステムに最初にアクセスしてから、積極的な攻撃を開始するまでの経過時間。攻撃者が偵察や攻撃の自動化にAIを活用するケースが増えるにつれ、この時間は大幅に短縮され、防御側が検知して対応できる時間も縮まっています。

AIシステムが、すべてのユーザーグループに対して偏りのない、公平な結果をもたらすようにする原則。サイバーセキュリティにおいて、AIの公平性は、脅威評価やアクセス制御における差別的な扱いのリスクを軽減し、コンプライアンスと倫理的なAIの導入を支援します。

AIモデルがどのように意思決定を行うのかを解釈し、理解できる能力。セキュリティシステムにおける信頼性、コンプライアンス、デバッグに不可欠です。

AIシステムの動作、意思決定プロセス、限界をステークホルダーが理解できるようにする取り組み。サイバーセキュリティにおいて、透明性は信頼、監査、規制遵守を支えます。

AIにおけるバイアスとは、不公平な結果を生み出す体系的な誤りを指します。公平性とは、こうしたバイアスを軽減し、公正かつ倫理的なAIのパフォーマンスを実現することです。

AIシステムを活用して、アプリケーションに対する偵察、仮説の生成、エクスプロイトの検証を自律的に実行すること。既知の脆弱性シグネチャーの固定カタログと照合するのではなく、人間のペネトレーションテスターの推論プロセスを模倣します。

AIシステム、モデル、データパイプラインへの不正アクセス、改ざん、または妨害。出力の侵害、サービス停止、機密情報の漏えいにつながる可能性があります。

AIシステムの信頼性、公平性、安全性に対して、関係者が抱く確信のこと。透明性の確保、テスト、責任ある利用を通じて築かれます。

検出、分類、生成などのタスクを実行するために、データを用いてトレーニングされたアルゴリズム構造。セキュリティの専門家は、モデルの堅牢性や攻撃への耐性を評価します。

AIシステムに関連するリスクを特定、評価し、軽減するプロセスです。サイバーセキュリティでは、モデルの堅牢性、サプライチェーンの脆弱性、コンプライアンス上のリスクが対象となります。

AIシステムへの敵対的な攻撃をシミュレーションし、脆弱性を特定してレジリエンスを高めるための、プロアクティブなセキュリティ演習。

学習済みAIモデルを使用して、新しい入力データに基づく予測、分類、応答を生成するプロセス。サイバーセキュリティでは、モデルを再学習させることなく、リアルタイムの脅威検知、異常の特定、自動意思決定を実現します。

AIによって強化または自動化され、速度、規模、巧妙さが高まったサイバー攻撃。適応型フィッシング、自動化された脆弱性の悪用、検知回避などが含まれます。

AIの有害な利用から個人を保護するための原則を定めた政策枠組みです。AIシステムにおけるプライバシー、差別、透明性、説明責任に関する課題を扱います。

AIツールを活用し、ネットワークやシステム全体を対象に隠れたサイバー脅威を能動的に探索すること。人間のアナリストが見逃すパターンを検出することもあります。AIツールを活用し、ネットワークやシステム全体を対象に隠れたサイバー脅威を能動的に探索すること。人間のアナリストが見逃すパターンを検出することもあります。

AIワークロード、モデル、データを保護するためのAmazon Web Servicesのツールとフレームワーク。脅威の検知、コンプライアンス管理、AIサービスの保護が含まれます。

アプリケーションが、特定のオブジェクトやレコードへのアクセス権限をユーザーが持っているか確認しないことで生じる脆弱性です。攻撃者は識別子（URLパラメーターやAPIリクエストIDなど）を操作し、他のユーザーのデータを閲覧または変更できてしまいます。OWASP API Security Top 10で最もリスクが高い項目にランクされています。

システムやAIワークロード全体にわたり、機密データのセキュリティ態勢を継続的に監視し、改善するプロセス。

データを収集、クリーニングし、ストレージや分析システムに移行するデータ統合プロセスです。AIセキュリティのデータセットを準備するうえで不可欠です。

組織のガバナンス、リスク管理、規制遵守を管理するための枠組みで、現在はAIシステムにも適用範囲が広がっています。

アプリケーションが、レコードID、ファイル名、キーなどの内部オブジェクトへの参照を、リクエスト元にその参照を使用する権限があるか確認せずに公開する脆弱性。攻撃者は別の値に置き換えることで、他者のデータにアクセスします。

開発者がツール、ドキュメント、サービスにアクセスできる一元化されたハブです。セキュリティの観点では、AI開発リソースへのアクセスを適切に管理します。

メモリ、チェーン処理、コンテキスト制御機能を備えた、大規模言語モデルを活用するアプリケーションを構築するためのAIフレームワーク。

膨大なデータセットで学習し、人間のようなテキストを理解・生成する機械学習モデル。コード生成、分析、チャットボットなどに利用されます。

大規模言語モデルを不正に乗っ取ったり悪用したりすること。悪意のあるプロンプトの挿入、知的財産の窃取、サイバー攻撃を目的とした出力の操作などが行われます。

本番環境で大規模言語モデルをデプロイ、監視、保守するための運用手法。

Model Context Protocolは、開発者がAIを活用したツールとデータソース間に、安全な双方向接続を構築できるオープンスタンダードです。

MITRE Adversarial Threat Landscape for Artificial-Intelligence Systemsの略称。AIシステムを標的とする攻撃者の戦術や手法、事例をまとめたナレッジベースです。セキュリティチームがAI資産を防御する際に役立ちます。

データから学習し、明示的なプログラミングなしに予測や判断を行うアルゴリズムを活用する、AIの一分野。

機械学習モデルのトレーニングからデプロイまでのライフサイクルを管理し、信頼性と拡張性を確保するためのプラクティス。

AIシステムのライフサイクル全体を保護するために、機械学習、セキュリティ、運用の各プラクティスを統合すること。

コンピューターが人間の言語を理解、解釈、生成できるようにするAI技術。チャットボット、脅威検知、情報収集などに活用されます。

言語生成と外部知識の検索を組み合わせ、より正確で文脈に沿った回答を実現するAIアプローチ。

認証済みユーザーに許可された操作や閲覧範囲をアプリケーションが適切に制限できず、権限の範囲を超えてデータや操作にアクセスできてしまう脆弱性の総称です。OWASP Top 10で第1位に位置付けられており、BOLAやIDORが含まれます。

アプリケーションのアーキテクチャ、データフロー、データ分類、信頼境界、本番環境で実際に稼働しているものを網羅した、常に更新されるモデル。AIセキュリティエージェントは、このモデルを読み取ってから動作します。グラフは一度構築され、コードの変更に応じて更新されるため、各エージェントは手当たり次第にスキャンするのではなく、アプリケーションに対する共通の理解に基づいて推論できます。

組織の業務、ツール、インフラ全体にAI機能を組み込むこと。サイバーセキュリティにおいて、あらゆる領域に浸透したAIは、大規模かつ継続的な自動防御を可能にします。

AIエージェントに実際の実行能力をもたらすプラグインです。エージェントスキルは、複雑なワークフローを通じてエージェントを導く、再利用可能なロジック、コンテキスト、指示のパッケージです。AIを、会話するだけでなく行動できる存在にします。

人間が常時介入しなくても、自律的に意思決定を行い、定められた目標の達成に向けて行動できるAIシステム。サイバーセキュリティでは、エージェント型AIを活用して、複雑な防御戦略や攻撃戦略を自動化できます。

SDLCや新たなAI開発ワークフロー全体にわたってツールやアクションを連携させるAIエージェントが実行する、複数のステップから成る目標指向のプロセス。

AIエージェントがツール、データ、ワークフローを活用して、最小限の人間の介入で開発タスクを自律的に計画、実行、完了するソフトウェア開発のパラダイム。

AIエージェントが変更の計画、コードの作成、ツールの実行、プルリクエストの作成など、執筆作業の大半を担う開発環境。人間の開発者が1行ずつ確認することを前提としたセキュリティ制御は、ADEには適用できません。

クラウドではなくデバイス上でローカルに実行されるAI処理。サイバーセキュリティの用途において、レイテンシを低減し、データのプライバシーを強化します。

暗号資産のマイニングを目的に、システムのリソースを無断で利用すること。多くの場合、マルウェアやブラウザーの脆弱性を悪用して行われます。AIはこうした攻撃の検知に役立つ一方で、攻撃に悪用される可能性もあります。

エージェントがシステムやツール内で実行できる個別の指示やアクション。コマンドは、エージェントが実際に行う操作（スクリプトの実行やサービスへの問い合わせなど）を表し、多くの場合、複数のステップから成るワークフローに組み込まれます。また、内部システムや外部システムと連携することもあります。

AIシステムに与えるコンテキストを設計・構造化し、出力を最適化するプロセス。サイバーセキュリティの自動化を正確に行ううえで欠かせません。

大規模なワークフローの一環として、特定のタスクを委任される専門エージェント。サブエージェントは、定義された範囲や機能に基づいて動作し、多くの場合、複雑なプロセスを完了するために他のエージェントと連携します。また、ツール、データ、権限へのアクセス権を継承します。

AIツールやエージェントを活用し、正式なソフトウェアエンジニアリングの専門知識がなくてもアプリケーションを作成・変更する、従来型ではないソフトウェア開発者。こうした人々の増加により、ソフトウェアを開発できる人の裾野が広がる一方、開発スピードとセキュリティリスクの両方が高まっています。

組織内でAIツールやモデルを承認なく使用すること。コンプライアンスやセキュリティ上のリスクにつながります。

正規のパッケージに似た名前のパッケージを悪意を持って登録し、開発者にインストールさせようとする行為。

開発ライフサイクルの中で、セキュリティ分析が実行されるタイミング。現在は、コーディングエージェントのループ内でリアルタイムに実行される分析、CIで変更のたびに実行される決定論的スキャン、一定の間隔でコードベース全体を対象に行う詳細なコンテキスト分析の3つが、それぞれ異なる範囲をカバーします。それぞれが異なる種類の問題を検出します。

サイバー犯罪、スパイ活動、偽情報キャンペーンにおける、悪意ある、または倫理に反するAIの利用。脅威インテリジェンスにおいて、その重要性が高まっています。

テキストや音声を通じてユーザーと対話する、AIを活用したインターフェース。サイバーセキュリティでは、チャットボットによってサポートやインシデントのトリアージを自動化できます。

攻撃者やユーザーが、AIシステムに保存された会話履歴を改変し、以降の応答や動作に影響を与える手法。安全対策の回避、悪意ある指示の注入、AIエージェントの意思決定の歪曲などに悪用される可能性があります。

AIツールやデータセットに悪意のある入力を混入させ、動作や結果を操作するデータ攻撃またはモデル攻撃の一種です。時間の経過とともにAIシステムの信頼性を損ないます。

悪意のある内部関係者や外部の攻撃者によって、システムから許可なくデータが転送されることです。AIは、データ持ち出しの試みを示す異常を検知できます。

悪意のあるデータの注入や誤ったラベル付けなどの手段でデータセットを意図的に改ざんし、AIモデルの性能を低下させるサイバー攻撃の手法。

大規模なデータセットからパターンや知見を発見するプロセス。サイバーセキュリティでは、データマイニングによって隠れた脅威やユーザー行動の異常を明らかにできます。

多数の層を持つニューラルネットワークを使用して、複雑なデータパターンをモデル化する機械学習の一分野です。多くのAIを活用したサイバーセキュリティツールを支えています。

人間の脳に着想を得た計算モデル。ディープラーニングで、複雑なデータ間の関係を処理するために使用されます。

APIキー、トークン、パスワード、証明書などの認証情報を、シークレット管理ストアに保管せず、ソースコード、設定、コミット履歴に直接記述したもの。検出では、開発ライフサイクル全体を通じてエントロピー分析、機械学習、パターンマッチングを組み合わせます。

開発者が実際にコードを書いたり、事前にプログラミング知識を身につけたりすることなく、実現したい内容を自然言語で説明するだけで、AIを活用したプラットフォームを通じてコードを作成する、新しいソフトウェア開発の手法です。

サイバーセキュリティにおける精度と適応性を高めるため、記号推論や機械学習など複数のAIアプローチを組み合わせます。

AIシステムがソフトウェアパッケージやコンポーネントの存在をでっち上げ、サプライチェーンに潜在的なリスクをもたらすこと。

AIモデルが、もっともらしく見える誤った情報や誤解を招く情報を生成すること。セキュリティ分野では、ハルシネーションが誤情報や不適切な自動化につながる可能性があります。

アプリケーション本来のワークフローの悪用を可能にする欠陥です。たとえば、他のユーザーのデータへのアクセスや、承認ステップの回避などが挙げられます。コード自体の欠陥とは異なり、アプリケーションが本来どのように動作するべきかに依存するため、決まったシグネチャがなく、文脈を踏まえた推論なしに自動スキャナーで検出するのは困難です。

事前学習済みAIモデルを特定のタスクやドメインに適応させるプロセス。セキュリティ分野では、ファインチューニングによって標的型の脅威に対する検知精度が向上します。

エージェントのワークフロー内の特定のタイミングで、特定のロジックを実行する事前定義済みのトリガーです。フックはアクションの前、実行中、または後に自動的に実行され、多くの場合、エージェントの実行中に透過的に動作します。検証、変換、または適用のロジックを挿入するために使用できます。

フロンティア大規模言語モデルを活用し、パターンベースのスキャナーでは照合するシグネチャがない脆弱性、特にビジネスロジックや認可に関する不備を検出すること。フロンティア検出は、決定論的スキャンに取って代わるのではなく、それと並行して実行されます。

入力プロンプトに有害な指示を埋め込むことで、AIシステムの動作を操作しようとする悪意のある試み。

AIモデルの出力を導く効果的なプロンプトを作成し、セキュリティのユースケースにおけるパフォーマンスを最適化する手法。

開発者が受け入れてマージするセキュリティ修正。単に生成されただけの修正とは異なります。根本的な問題を解決し、ビルドを壊さず、望ましくない依存関係の変更を引き起こさず、レビュー担当者が承認するのに十分な根拠がある修正は、マージ可能です。

競争上または悪意のある目的で、独自のAIモデルを無断で抽出または複製すること。

エージェントのワークフロー全体に適用でき、タスクの実行時にエージェントがどのように振る舞うべきかを定める制約やポリシーです。ルールでは、許可または禁止する動作を指定し、セキュリティ、コンプライアンス、運用上の要件を徹底できます。

過去のデータパターンに基づいて、結果や行動を予測するよう設計されたAIシステム。脅威の予測やリスク評価に活用されます。

この用語は、機械学習プロセスやAIワークフローに人間が関与することを指します。人間の専門家が知見、専門知識、判断を提供し、

依存関係に含まれる脆弱な関数が、アプリケーションのコードパスから実際に呼び出されるかどうかを評価すること。到達可能性を調べることで、理論上存在するだけの検出結果と、アプリケーションが実行できる検出結果を区別できます。

既知のセキュリティ上の指摘を修正せずに残すという正式な決定であり、リスク登録簿、SLAの階層、「修正しない」ステータス、または例外・免除のワークフローなどを通じて記録されます。リスクの受容は、悪用される可能性を踏まえた判断であり、その指摘が無害であるという主張ではありません。

AIモデルにタスクの実行方法を学習させるために使用するデータセット。セキュリティ分野では、その品質が検出精度に直接影響します。

エージェントが報酬やペナルティを受けながら試行錯誤を通じて学習する機械学習の手法です。明示的な指示やラベル付きデータを使わずに、時間の経過とともに累積報酬を最大化する戦略を学習することを目指します。

インストールしたユーザーの認証情報を盗んだり、データを外部に流出させたり、インストールスクリプトでコードを実行したりすることを目的に、パブリックレジストリに公開されたパッケージ。インストール時の防御により、こうした脅威が開発者のマシンやビルド環境に到達する前にブロックできます。

特定のデプロイ環境において、コードパスや設定、利用可能なエクスプロイト手法を考慮したうえで、攻撃者が脆弱性を悪用できるかどうかを評価したもの。

複数の低深刻度の脆弱性やロジック上の欠陥を組み合わせ、影響度の高い単一の攻撃経路を作り出す手法。たとえば、認可の不備と権限昇格の脆弱性を組み合わせることで、どちらか一方だけでは実現できない重大な結果を引き起こします。

悪意のある入力や手法を用いて、AIモデルを欺き、操作し、または悪用すること。サイバーセキュリティでは、敵対的AIによって防御を回避したり、誤分類を引き起こしたり、システムのパフォーマンスを低下させたりする可能性があります。

アプリケーションの意図された動作（認可ロジックやマルチテナント環境におけるデータ境界など）を理解しなければ特定できない種類の脆弱性です。自動スキャナーがパターンマッチングで直接検出できる、固定された技術的シグネチャを持つ脆弱性とは異なります。

実行するたびに同じ入力に対して同じ結果を返すセキュリティ分析。SAST、SCA、シークレットスキャンが含まれます。エージェント型プログラムでは、決定論的エンジンはさらに2つの役割を担います。AIエージェントが呼び出すツールとして機能すること、そしてエージェントが発見・修正した内容を独立して検証することです。

セキュリティ修正を、その修正を生成したシステムとは別のシステムで検証する手法。自身の出力を自ら評価するモデルでは、独立した評価を行えないため、検証は決定論的なエンジンまたは別の検証システムに委ねられます。

テキスト、コード、画像などの新しいコンテンツを生成するAIモデル。サイバーセキュリティでは、脅威のシミュレーションやフィッシングメールの自動生成などに活用されます。

修正（通常は依存関係のアップグレード）を適用した場合に、アプリケーションのビルドや動作に問題が生じるかどうかを評価すること。修正が正しいだけでなく、安全にマージできるかどうかを判断する指標です。

アプリケーションに悪用可能なリスクがないか継続的に評価するセキュリティテストのアプローチです。動的アプリケーションセキュリティテスト（DAST）などの自動テスト手法と、必要に応じて実施するAIを活用したより高度なペネトレーションテストを組み合わせ、年に1、2回の時点評価に頼りません。

アプリケーションのアーキテクチャ、データフロー、信頼境界を体系的に分析し、攻撃される可能性のある箇所と、最も重大な弱点を特定すること。エージェント型脅威モデリングでは、1回限りのワークショップでモデルを作成するのではなく、アプリケーションのコンテキストグラフからモデルを継続的に導き出し、更新します。

組織が抱える、既知で未修正のセキュリティ上の問題の蓄積です。修正の遅れが生じると、このバックログは先送りされた保守作業ではなく、自動化された攻撃者が特定できる、悪用可能な経路の継続的な一覧となります。

組織が抱える、既知で未修正のセキュリティ上の問題の蓄積です。修正の遅れが生じると、このバックログは先送りされた保守作業ではなく、自動化された攻撃者が列挙できる、悪用可能な経路の継続的な一覧となります。

AIエージェントが各ステップで人間の作業を必要とせずに、セキュリティ修正を生成、検証、提供すること。自律型修復では、スキャン、修正、検証から、レビュアーがマージできるプルリクエストの作成まで、一連のプロセスをカバーします。組織が希望する場合は、任意の段階で人間による承認を維持できます。

複数のモデルやエージェントを組み合わせ、複雑なタスクを実行する統合型AIアーキテクチャ。サイバーセキュリティでは、多層防御戦略を実現します。

evaluations（評価）の略で、さまざまなシナリオにおけるAIシステムのパフォーマンス、安全性、信頼性を測定する体系的なテストです。

AIモデルがどのように意思決定するかを解釈し、理解できる能力。セキュリティシステムにおける信頼性、コンプライアンス、デバッグに不可欠です。

倫理的、公平で、透明性が高く、安全なAIシステムを開発・導入すること。サイバーセキュリティにおける責任あるAIの実践は、バイアスを低減し、コンプライアンスを確保するとともに、悪用のリスクを最小限に抑えます。

エージェントによる生成物のセキュリティを、エージェント型開発プロセスの一環として確保する原則です。エージェントのワークフローにセキュリティインテリジェンスとガードレールを組み込むことで、新たに生成されたコードの検証における人手への依存を軽減します。

確率的なプロセスにより、同じ入力に対して異なる出力を生成することがあるAIシステム。セキュリティの観点から、特別な取り扱いが必要です。