AI用語集

AIシステムの安全制約を回避し、制限された内容や有害な出力を生成させる手法。AIセキュリティテストにおける重要な懸念事項です。

AIをセキュリティ運用に統合し、脅威の検出、インシデント対応、SOCのワークフローを自動化すること。サイバーセキュリティ防御のスピードと精度を高めます。

AIにおける信頼性、リスク、セキュリティ管理（Trust, Risk, and Security Management）の略称です。AIシステムの安全性、信頼性、コンプライアンスを確保するためのガバナンスアプローチです。

AI部品表。AIコンポーネント、データセット、依存関係の詳細な一覧です。来歴の追跡や、AIサプライチェーンのリスク管理に役立ちます。

モデルガバナンスや脅威のモニタリングなど、組織のAI関連のセキュリティポスチャを継続的に評価し、改善すること。

ユーザーやシステムに代わってタスクを実行する、人工知能を搭載したソフトウェアエンティティ。セキュリティ分野のAIエージェントは、脅威の監視、インシデントへの対応、自動化されたワークフローの実行などを行います。

AIエージェントがタスクを実行する際に依存する、ツール、インテグレーション、コンポーネント、入力のエコシステム。MCPサーバー、API、外部サービス、スキル、その他、エージェントの振る舞いや生成する内容に影響を与える依存関係が含まれます。

AIエージェントが信頼できない、または安全でないツール、インテグレーション、入力を利用することで生じるリスクです。これにより、データの漏えい、意図しない操作、ソフトウェア開発中の脆弱性の混入につながる可能性があります。

クラウド環境でホストされるAIワークロード、モデル、データを保護すること。クラウドセキュリティのプラクティスと、データ漏えい、モデルの盗難、敵対的攻撃から守るAI固有の対策を組み合わせます。

AIコーディングアシスタント（Cursor、GitHub Copilot、Claudeなど）は、一般的で広く普及しているAIエージェントの一形態です。エージェントの機能を開発者のワークフローに直接組み込むことで、開発環境内でのコード生成、ツールの利用、タスクの自動実行を可能にします。さらに高度なエージェントは、コーディングアシスタントの枠を超え、システム間で自律的に動作し、ワークフローをオーケストレーションし、人間から直接指示を受けることなく複数のツールと連携します。

AIシステムが関連する法律、規制、業界標準を遵守すること。サイバーセキュリティにおいては、責任あるAIの利用に向けたデータ保護、監査可能性、ガバナンスの枠組みが含まれます。

AIが安全でない、または許可されていない出力を生成しないようにする、あらかじめ定められた安全性とコンプライアンスの境界。エンタープライズでAIを導入するうえで不可欠です。

AIシステムで使用されるデータを、収集、保存、学習、推論を含むライフサイクル全体にわたって保護することです。データ侵害や漏えい、データポイズニング攻撃を防ぎます。

LLMなどのAIモデルを使用してソースコードを自動生成すること。サイバーセキュリティの分野では、開発を加速できる一方、脆弱性を防ぐためにセキュリティレビューも必要です。

攻撃者がシステムに最初にアクセスしてから、積極的な攻撃を開始するまでの経過時間。攻撃者が偵察や攻撃の自動化にAIを活用するケースが増えるにつれ、この時間は大幅に短縮され、防御側が検知して対応できる時間も縮まっています。

AIシステムが、すべてのユーザーグループに対して偏りのない、公平な結果をもたらすようにする原則。サイバーセキュリティにおいて、AIの公平性は、脅威評価やアクセス制御における差別的な扱いのリスクを軽減し、コンプライアンスと倫理的なAIの導入を支援します。

AIモデルがどのように意思決定を行うのかを解釈し、理解できる能力。セキュリティシステムにおける信頼性、コンプライアンス、デバッグに不可欠です。

AIシステムの動作、意思決定プロセス、限界をステークホルダーが理解できるようにする取り組み。サイバーセキュリティにおいて、透明性は信頼、監査、規制遵守を支えます。

AIにおけるバイアスとは、不公平な結果を生み出す体系的な誤りを指します。公平性とは、こうしたバイアスを軽減し、公正かつ倫理的なAIのパフォーマンスを実現することです。

AIシステムを活用して、アプリケーションに対する偵察、仮説の生成、エクスプロイトの検証を自律的に実行すること。既知の脆弱性シグネチャーの固定カタログと照合するのではなく、人間のペネトレーションテスターの推論プロセスを模倣します。

AIシステム、モデル、データパイプラインへの不正アクセス、改ざん、または妨害。出力の侵害、サービス停止、機密情報の漏えいにつながる可能性があります。

AIシステムの信頼性、公平性、安全性に対して、関係者が抱く確信のこと。透明性の確保、テスト、責任ある利用を通じて築かれます。

検出、分類、生成などのタスクを実行するために、データを用いてトレーニングされたアルゴリズム構造。セキュリティの専門家は、モデルの堅牢性や攻撃への耐性を評価します。

AIシステムに関連するリスクを特定、評価し、軽減するプロセスです。サイバーセキュリティでは、モデルの堅牢性、サプライチェーンの脆弱性、コンプライアンス上のリスクが対象となります。

AIシステムへの敵対的な攻撃をシミュレーションし、脆弱性を特定してレジリエンスを高めるための、プロアクティブなセキュリティ演習。

学習済みAIモデルを使用して、新しい入力データに基づく予測、分類、応答を生成するプロセス。サイバーセキュリティでは、モデルを再学習させることなく、リアルタイムの脅威検知、異常の特定、自動意思決定を実現します。

AIによって強化または自動化され、速度、規模、巧妙さが高まったサイバー攻撃。適応型フィッシング、自動化された脆弱性の悪用、検知回避などが含まれます。

AIの有害な利用から個人を保護するための原則を定めた政策枠組みです。AIシステムにおけるプライバシー、差別、透明性、説明責任に関する課題を扱います。

AIツールを活用し、ネットワークやシステム全体を対象に隠れたサイバー脅威を能動的に探索すること。人間のアナリストが見逃すパターンを検出することもあります。AIツールを活用し、ネットワークやシステム全体を対象に隠れたサイバー脅威を能動的に探索すること。人間のアナリストが見逃すパターンを検出することもあります。

AIワークロード、モデル、データを保護するためのAmazon Web Servicesのツールとフレームワーク。脅威の検知、コンプライアンス管理、AIサービスの保護が含まれます。

アプリケーションが、特定のオブジェクトやレコードへのアクセス権限をユーザーが持っているか確認しないことで生じる脆弱性です。攻撃者は識別子（URLパラメーターやAPIリクエストIDなど）を操作し、他のユーザーのデータを閲覧または変更できてしまいます。OWASP API Security Top 10で最もリスクが高い項目にランクされています。

システムやAIワークロード全体にわたり、機密データのセキュリティ態勢を継続的に監視し、改善するプロセス。

データを収集、クリーニングし、ストレージや分析システムに移行するデータ統合プロセスです。AIセキュリティのデータセットを準備するうえで不可欠です。

組織のガバナンス、リスク管理、規制遵守を管理するための枠組みで、現在はAIシステムにも適用範囲が広がっています。

開発者がツール、ドキュメント、サービスにアクセスできる一元化されたハブです。セキュリティの観点では、AI開発リソースへのアクセスを適切に管理します。

メモリ、チェーン処理、コンテキスト制御機能を備えた、大規模言語モデルを活用するアプリケーションを構築するためのAIフレームワーク。

膨大なデータセットで学習し、人間のようなテキストを理解・生成する機械学習モデル。コード生成、分析、チャットボットなどに利用されます。

大規模言語モデルを不正に乗っ取ったり悪用したりすること。悪意のあるプロンプトの挿入、知的財産の窃取、サイバー攻撃を目的とした出力の操作などが行われます。

本番環境で大規模言語モデルをデプロイ、監視、保守するための運用手法。

Model Context Protocolは、開発者がAIを活用したツールとデータソース間に、安全な双方向接続を構築できるオープンスタンダードです。

MITRE Adversarial Threat Landscape for Artificial-Intelligence Systemsの略称。AIシステムを標的とする攻撃者の戦術や手法、事例をまとめたナレッジベースです。セキュリティチームがAI資産を防御する際に役立ちます。

データから学習し、明示的なプログラミングなしに予測や判断を行うアルゴリズムを活用する、AIの一分野。

機械学習モデルのトレーニングからデプロイまでのライフサイクルを管理し、信頼性と拡張性を確保するためのプラクティス。

AIシステムのライフサイクル全体を保護するために、機械学習、セキュリティ、運用の各プラクティスを統合すること。

コンピューターが人間の言語を理解、解釈、生成できるようにするAI技術。チャットボット、脅威検知、情報収集などに活用されます。

言語生成と外部知識の検索を組み合わせ、より正確で文脈に沿った回答を実現するAIアプローチ。

組織の業務、ツール、インフラ全体にAI機能を組み込むこと。サイバーセキュリティにおいて、あらゆる領域に浸透したAIは、大規模かつ継続的な自動防御を可能にします。

AIエージェントに実際の実行能力をもたらすプラグインです。エージェントスキルは、複雑なワークフローを通じてエージェントを導く、再利用可能なロジック、コンテキスト、指示のパッケージです。AIを、会話するだけでなく行動できる存在にします。

人間が常時介入しなくても、自律的に意思決定を行い、定められた目標の達成に向けて行動できるAIシステム。サイバーセキュリティでは、エージェント型AIを活用して、複雑な防御戦略や攻撃戦略を自動化できます。

SDLCや新たなAI開発ワークフロー全体にわたってツールやアクションを連携させるAIエージェントが実行する、複数のステップから成る目標指向のプロセス。

AIエージェントがツール、データ、ワークフローを活用して、最小限の人間の介入で開発タスクを自律的に計画、実行、完了するソフトウェア開発のパラダイム。

クラウドではなくデバイス上でローカルに実行されるAI処理。サイバーセキュリティの用途において、レイテンシを低減し、データのプライバシーを強化します。

暗号資産のマイニングを目的に、システムのリソースを無断で利用すること。多くの場合、マルウェアやブラウザーの脆弱性を悪用して行われます。AIはこうした攻撃の検知に役立つ一方で、攻撃に悪用される可能性もあります。

エージェントがシステムやツール内で実行できる個別の指示やアクション。コマンドは、エージェントが実際に行う操作（スクリプトの実行やサービスへの問い合わせなど）を表し、多くの場合、複数のステップから成るワークフローに組み込まれます。また、内部システムや外部システムと連携することもあります。

AIシステムに与えるコンテキストを設計・構造化し、出力を最適化するプロセス。サイバーセキュリティの自動化を正確に行ううえで欠かせません。

大規模なワークフローの一環として、特定のタスクを委任される専門エージェント。サブエージェントは、定義された範囲や機能に基づいて動作し、多くの場合、複雑なプロセスを完了するために他のエージェントと連携します。また、ツール、データ、権限へのアクセス権を継承します。

AIツールやエージェントを活用し、正式なソフトウェアエンジニアリングの専門知識がなくてもアプリケーションを作成・変更する、従来型ではないソフトウェア開発者。こうした人々の増加により、ソフトウェアを開発できる人の裾野が広がる一方、開発スピードとセキュリティリスクの両方が高まっています。

組織内でAIツールやモデルを承認なく使用すること。コンプライアンスやセキュリティ上のリスクにつながります。

正規のパッケージに似た名前のパッケージを悪意を持って登録し、開発者にインストールさせようとする行為。

サイバー犯罪、スパイ活動、偽情報キャンペーンにおける、悪意ある、または倫理に反するAIの利用。脅威インテリジェンスにおいて、その重要性が高まっています。

テキストや音声を通じてユーザーと対話する、AIを活用したインターフェース。サイバーセキュリティでは、チャットボットによってサポートやインシデントのトリアージを自動化できます。

攻撃者やユーザーが、AIシステムに保存された会話履歴を改変し、以降の応答や動作に影響を与える手法。安全対策の回避、悪意ある指示の注入、AIエージェントの意思決定の歪曲などに悪用される可能性があります。

AIツールやデータセットに悪意のある入力を混入させ、動作や結果を操作するデータ攻撃またはモデル攻撃の一種です。時間の経過とともにAIシステムの信頼性を損ないます。

悪意のある内部関係者や外部の攻撃者によって、システムから許可なくデータが転送されることです。AIは、データ持ち出しの試みを示す異常を検知できます。

悪意のあるデータの注入や誤ったラベル付けなどの手段でデータセットを意図的に改ざんし、AIモデルの性能を低下させるサイバー攻撃の手法。

大規模なデータセットからパターンや知見を発見するプロセス。サイバーセキュリティでは、データマイニングによって隠れた脅威やユーザー行動の異常を明らかにできます。

多数の層を持つニューラルネットワークを使用して、複雑なデータパターンをモデル化する機械学習の一分野です。多くのAIを活用したサイバーセキュリティツールを支えています。

人間の脳に着想を得た計算モデル。ディープラーニングで、複雑なデータ間の関係を処理するために使用されます。

開発者が実際にコードを書いたり、事前にプログラミング知識を身につけたりすることなく、実現したい内容を自然言語で説明するだけで、AIを活用したプラットフォームを通じてコードを作成する、新しいソフトウェア開発の手法です。

サイバーセキュリティにおける精度と適応性を高めるため、記号推論や機械学習など複数のAIアプローチを組み合わせます。

AIシステムがソフトウェアパッケージやコンポーネントの存在をでっち上げ、サプライチェーンに潜在的なリスクをもたらすこと。

AIモデルが、もっともらしく見える誤った情報や誤解を招く情報を生成すること。セキュリティ分野では、ハルシネーションが誤情報や不適切な自動化につながる可能性があります。

アプリケーション本来のワークフローの悪用を可能にする欠陥です。たとえば、他のユーザーのデータへのアクセスや、承認ステップの回避などが挙げられます。コード自体の欠陥とは異なり、アプリケーションが本来どのように動作するべきかに依存するため、決まったシグネチャがなく、文脈を踏まえた推論なしに自動スキャナーで検出するのは困難です。

事前学習済みAIモデルを特定のタスクやドメインに適応させるプロセス。セキュリティ分野では、ファインチューニングによって標的型の脅威に対する検知精度が向上します。

エージェントのワークフロー内の特定のタイミングで、特定のロジックを実行する事前定義済みのトリガーです。フックはアクションの前、実行中、または後に自動的に実行され、多くの場合、エージェントの実行中に透過的に動作します。検証、変換、または適用のロジックを挿入するために使用できます。

入力プロンプトに有害な指示を埋め込むことで、AIシステムの動作を操作しようとする悪意のある試み。

AIモデルの出力を導く効果的なプロンプトを作成し、セキュリティのユースケースにおけるパフォーマンスを最適化する手法。

競争上または悪意のある目的で、独自のAIモデルを無断で抽出または複製すること。

エージェントのワークフロー全体に適用でき、タスクの実行時にエージェントがどのように振る舞うべきかを定める制約やポリシーです。ルールでは、許可または禁止する動作を指定し、セキュリティ、コンプライアンス、運用上の要件を徹底できます。

過去のデータパターンに基づいて、結果や行動を予測するよう設計されたAIシステム。脅威の予測やリスク評価に活用されます。

この用語は、機械学習プロセスやAIワークフローに人間が関与することを指します。人間の専門家が知見、専門知識、判断を提供し、

AIモデルにタスクの実行方法を学習させるために使用するデータセット。セキュリティ分野では、その品質が検出精度に直接影響します。

エージェントが報酬やペナルティを受けながら試行錯誤を通じて学習する機械学習の手法です。明示的な指示やラベル付きデータを使わずに、時間の経過とともに累積報酬を最大化する戦略を学習することを目指します。

複数の低深刻度の脆弱性やロジック上の欠陥を組み合わせ、影響度の高い単一の攻撃経路を作り出す手法。たとえば、認可の不備と権限昇格の脆弱性を組み合わせることで、どちらか一方だけでは実現できない重大な結果を引き起こします。

悪意のある入力や手法を用いて、AIモデルを欺き、操作し、または悪用すること。サイバーセキュリティでは、敵対的AIによって防御を回避したり、誤分類を引き起こしたり、システムのパフォーマンスを低下させたりする可能性があります。

アプリケーションの意図された動作（認可ロジックやマルチテナント環境におけるデータ境界など）を理解しなければ特定できない種類の脆弱性です。自動スキャナーがパターンマッチングで直接検出できる、固定された技術的シグネチャを持つ脆弱性とは異なります。

テキスト、コード、画像などの新しいコンテンツを生成するAIモデル。サイバーセキュリティでは、脅威のシミュレーションやフィッシングメールの自動生成などに活用されます。

アプリケーションに悪用可能なリスクがないか継続的に評価するセキュリティテストのアプローチです。動的アプリケーションセキュリティテスト（DAST）などの自動テスト手法と、必要に応じて実施するAIを活用したより高度なペネトレーションテストを組み合わせ、年に1、2回の時点評価に頼りません。

複数のモデルやエージェントを組み合わせ、複雑なタスクを実行する統合型AIアーキテクチャ。サイバーセキュリティでは、多層防御戦略を実現します。

evaluations（評価）の略で、さまざまなシナリオにおけるAIシステムのパフォーマンス、安全性、信頼性を測定する体系的なテストです。

AIモデルがどのように意思決定するかを解釈し、理解できる能力。セキュリティシステムにおける信頼性、コンプライアンス、デバッグに不可欠です。

倫理的、公平で、透明性が高く、安全なAIシステムを開発・導入すること。サイバーセキュリティにおける責任あるAIの実践は、バイアスを低減し、コンプライアンスを確保するとともに、悪用のリスクを最小限に抑えます。

エージェントによる生成物のセキュリティを、エージェント型開発プロセスの一環として確保する原則です。エージェントのワークフローにセキュリティインテリジェンスとガードレールを組み込むことで、新たに生成されたコードの検証における人手への依存を軽減します。

確率的なプロセスにより、同じ入力に対して異なる出力を生成することがあるAIシステム。セキュリティの観点から、特別な取り扱いが必要です。