バイデン大統領のAI安全対策に関する大統領令は、企業にとって何を意味するのか？
2023年11月2日
0 分で読めます10月30日、米国のジョセフ・バイデン大統領は、AIの安全性と説明責任の向上を目的とする包括的な大統領令（以下「大統領令」）を発令しました。
AIに関する大統領令の概要
この大統領令は、アルゴリズムの偏りやプライバシーの保護から、最先端AIモデルの安全性に関する規制まで、幅広い分野を網羅しています。最先端モデルとは、GPT-4、Bard、Llama 2のような、最大規模かつ最先端のモデルを指します。大統領令は、多くの政府機関に対し、今後1年以内にAI規制の具体的な領域を策定するよう義務付けています。また、AI技術のオープンな開発を促進し、AIセキュリティのイノベーションを推進するとともに、AIを活用してセキュリティを向上させるツールを構築するための項目も盛り込まれています。
テクノロジー業界は今も大統領令の内容を消化し、その影響を検討しているところです。重要な領域の中には、大統領令が言及していないものもあります。たとえば、オープンソースについては触れられておらず、新たな基盤モデルを開発する可能性のあるオープンソースプロジェクトに対する免除も設けられていません。また、文言の解釈が明確でない部分もあります。大統領令では、一定量を超える計算資源を必要とするモデルに結果の報告を求めていますが、すべてのモデルが対象なのか、悪意ある目的に容易に転用できるモデルだけが対象なのかは明確に説明されていません。
また、この大統領令は法的強制力のある規則ではなく、今後の規制の枠組みを形成するために策定されたものです。そのため、規制当局が今後のAI関連法を策定する際の優先事項や方針に影響を与える可能性があります。もちろん、大きな疑問は、AIシステムを使って、あるいはその上に構築している企業や組織において、技術の開発や導入にこの大統領令がどう影響するかということです（この記事では、「AIシステム」とは、全体または一部でAIを利用して動作するデータシステム、ソフトウェア、ハードウェア、アプリケーション、ツール、ユーティリティを指します）。AIの進化は非常に速く、組織ですでにAI活用の慣行が形づくられているかもしれません。規制が施行されたとき、それを変更するのに多大なコストや労力がかかる可能性があります。そうした事態を避けるには、大統領令の指針に沿ったベストプラクティスを取り入れ、AIOpsや製品を将来の規制にも対応できるよう、先手を打って備えることが理想です。
AIに関する大統領令が提起する主な疑問
ここでは、私たちが耳にする主な疑問と、現時点で考えられる回答を簡単にご紹介します。（注：状況の進展に応じて、この記事を更新する場合があります。更新内容には日付を記載します。）
取り上げる質問
大統領令ではオープンソースソフトウェアについて何も触れられていません。オープンソースAIモデルにはどのように適用されますか？
大統領令は、非常に大規模な基盤モデルについて具体的に言及しています。Llama 2、Falcon 70B、Mistralのような大規模なオープンソースモデルも対象ですか？
大統領令の文言は非常に一般的で曖昧に思えます。この指針に基づく今後の規制が自分や自社に影響するのか判断しにくいのですが、なぜこのように不明確な指針なのでしょうか？
サイバーセキュリティ、アプリケーションセキュリティ、コンプライアンス、監査の各チームにとって、重要なポイントは何ですか？
質問：大統領令ではAIモデルの登録について触れています。登録が必要になるのでしょうか？
回答：現時点では明確ではありませんが、多くの場合、小規模なAIモデルを開発する企業や既存モデルを利用する企業に登録義務はないと考えています。
質問：大統領令に定められた報告義務は、どのような場合に発生しますか？
回答：大統領令は、重大なセキュリティリスクをもたらす可能性のある大規模なAI学習について、AI開発者に報告を義務付けています。また、安全性評価や「レッドチーム演習」の結果の報告も義務付けています。さらに、外国人が大規模AIモデルの学習に使える計算サービスを購入しようとした場合、クラウドサービスプロバイダーは政府に通知する必要があります。
大統領令の文言に基づくと、報告対象となるのは非常に大規模なモデル、つまり最新のGPUを使って数千万コンピューティング時間をかけて学習させたモデルになるでしょう。運用面で言うと、これは1026回を超える整数演算または浮動小数点演算能力を持つクラスター、あるいはローカルネットワークのスループットが100 Gbit/sを超えるコンピューティングクラスターで学習されたモデルを意味します。計算を逆算すると、数兆トークン規模の学習が必要ということになります。報道によれば、GPT-4の学習に使われたのは1.7兆トークンであり、これは一桁少ない規模です。つまり、当面は大統領令の基準によって、最大規模のモデルを開発する企業や、1回の学習に数百万ドルかかるような最大規模のコンピューティングクラスターのみが対象になる可能性が高いでしょう。ただし、大統領令には政府が将来的に基準を変更する可能性があると記されています。規制上の決定によって、基準が引き上げられることも引き下げられることもあり得ます。
質問：大統領令では「デュアルユース」AIモデルの報告基準について触れています。どのように定義されていますか？
回答：簡単に言えば、大統領令では明確に定義されていません。悪意ある目的に利用できるAIモデルを対象とする意図のようです。しかし実際には、ほぼすべてのAIが悪意ある目的に向けて学習・利用される可能性があるため、かなり曖昧な基準です。とはいえ、以下に基本的なガイダンスをいくつかご紹介します。
質問：大統領令ではオープンソースソフトウェアについて何も触れられていません。オープンソースAIモデルにはどのように適用されますか？
回答：現時点では、オープンソースモデルやオープンソースAIに関する明確な指針はありません。全体として、大統領令の一般的な指針は、オープンソースAIと、開発されてオープンソースとして公開されるモデルにも適用される可能性が高いでしょう。
質問：大統領令は、非常に大規模な基盤モデルについて具体的に言及しています。Llama 2、Falcon 70B、Mistralのような大規模なオープンソースモデルも対象ですか？
回答：大統領令には、まだ公開されていないモデルに規定や規制が適用されると明記されています。そのため、すでに公開されているこれらのモデルは、異なるレベルの監視を受けることになるでしょう。こうしたモデルを基盤に開発・改変している場合、チームが少なくとも一部の規制監督や報告義務に従わなければならない可能性は十分にあります。
質問：大統領令にはAIの安全性に関する記述が多くあります。実践できる具体的なガイダンスはありますか？
回答：安全性という言葉の意味は主観的ですが、簡単にお答えします。大統領令は、AIシステムの安全性とセキュリティの必要性を強調しています。AIシステムを利用する前に、堅牢で信頼性が高く、再現可能かつ標準化された評価を実施すること、また、リスクをテスト、理解、軽減するためのポリシーや仕組みを整えることを求めています。組織で一般公開製品や本番アプリケーションに使うAIシステムを学習または調整している場合は、AI資産に特化した、体系的で監査可能なセキュリティプロセスの導入を検討してください。
質問：大統領令には市民の自由、プライバシー、アルゴリズムの偏りに関する項目があります。組織にはどのような影響がありますか？
回答：大統領令は、AIが進歩し続ける中で、米国民のプライバシーと市民の自由を保護するよう求めています。具体的な指針は示されていませんが、実際には、州レベル（カリフォルニア州など）や国・地域レベル（たとえば欧州連合）ですでに他の法律が対応を始めています。重要なのは、AIアプリケーションやモデルも、AIを使わない従来のアプリケーションと同じ保護措置、透明性、来歴情報を備える必要があるということです。特に難しいのは、隠れた偏りを含むデータセットや、適切なプロンプトによって抽出できる匿名化済みの個人識別情報（PII）を使ってAIシステムを学習させる場合です。こうした状況は、法律違反や訴訟につながる可能性があります。
質問：この大統領令はAI生成コードにどのような影響を与えますか？
回答：大統領令には、AI生成コードに関する具体的な規定も言及もありません。それでも、AI生成コードも、アプリケーションとコードのセキュリティに関するより広範な規制に準拠する必要があると考えておくべきです。特にサプライチェーンセキュリティへの対応が重要になります。ソフトウェアを開発し、AIコーディングツールを利用する企業は、そのツールをソフトウェアサプライチェーンの一部と見なすべきだと、私たちは考えています。これは特にオープンソースソフトウェアで重要です。オープンソースソフトウェアには、他のオープンソース企業に対する一時的、入れ子状、条件付き、または直接的な依存関係が多数含まれる場合があるからです。つまり、ソフトウェア部品表（SBOM）をめぐって策定が進む要件と同様の要件が導入される可能性が高いでしょう。
質問：AIBOMが必要になるかもしれませんね！
回答：そのとおりです。SBOMに相当するAIBOMを作成するのはよい考えです。最低限、AIの利用状況、プロセス、学習データをすべて文書化し、既存のソフトウェアやテクノロジー関連の規制に照らした模擬監査やコンプライアンスチェックを実施することが、AIBOMの代わりとなるでしょう。近い将来から中期的に導入される可能性のある規制に備えることにもつながります。
質問：生物学的データを扱っています。生物兵器に関する規定は組織にどのような影響を与えますか？
回答：学習の報告義務が発生する計算量の基準は、やや低く設定されています。1023回を超える整数演算または浮動小数点演算能力を使うモデルは、学習について報告する必要があります。ただし、この基準も比較的大きく、現在生物学的データに使われている大半のモデルを大きく上回ります。
質問：非常に大規模なモデルを扱っていますが、モデル自体の設計はしていません。この大統領令はどのような影響を与えますか？
回答：既存モデルを使っている場合でも、定められた計算量の基準に近い非常に大規模なモデルを学習させているなら、学習の実施内容や安全性評価の結果を報告する必要があるかもしれません。基準に達していない場合や基準に近い学習を行っていない場合でも、アプリケーションの登録が必要となる可能性があります。ただし、確実なことがわかるのは、今後の規制策定プロセスを経てからでしょう。
質問：大統領令にはサイバーセキュリティとAIツールに関する規定があります。そのために何か対応する必要がありますか？
A: いいえ。これは主に、AIを活用したサイバーセキュリティや、AIモデル、AIOps、AIを活用したアプリケーションの開発・デプロイを監視・保護するための、新しいツールや研究を促進する規定です。もちろん、AIを活用した新しいサイバーセキュリティ機能の構築や、AIのリスクからの保護に取り組んでいるなら、DARPAはぜひコンテストへの参加を期待しているでしょう。
Q: すでに多くのオープンソースAIアプリケーションやモデルを使っています。安全性を確保するにはどうすればよいですか？
A: オープンソースAIはすでにサプライチェーンの一部です。そのため、サプライチェーンの一部として扱い、敵対者がオープンソースソフトウェアのサプライチェーンを汚染しようとしてきたのと同様に、オープンソースAIのサプライチェーンを汚染しようとすることを想定する必要があります（実際、この2つのサプライチェーンにはかなりの重複があります）。オープンソースAIのコンポーネントやコードを誰が管理しているかを特定し、そのコードを頻繁にスキャンして脆弱性を検出することが重要です。また、管理者の変更、説明のつかないコードやデータの変更、リスクにつながる可能性のあるその他の兆候がないか、コンポーネントを監視する必要があります。
Q: 大統領令（EO）の文言は非常に一般的で曖昧なため、この指針から今後出される規制が、自分や自社に影響するのか判断できません。なぜこのように曖昧な指針なのでしょうか？
A: 新しい分野が規制当局の監視対象となる場合、今後どう展開するかが見通せないため、当局が指針や規制を非常に広範な表現にするのはよくあることです。この曖昧な表現により、規制当局はできるだけ多くのシナリオを対象にできる柔軟性を確保できます。今回の大統領令も同様で、最初の規制が導入され、ユースケースやシナリオが具体化するにつれて、より明確な内容が加わると考えられます。そのため、組織は慎重を期し、AIシステムについて、規制の変化に対応できなくなる事態を避けるため、より厳格なポリシーや手順を設けるべきです。
Q: サイバーセキュリティ、アプリケーションセキュリティ、コンプライアンス、監査の各チームが押さえておくべきポイントは何ですか？
A: 大統領令では「AIシステム」を「…AIを全体または一部に使用して動作するあらゆるデータシステム、ソフトウェア、ハードウェア、アプリケーション、ツール、またはユーティリティ」と定義しています。これには次のものが含まれます。
「デプロイ後のパフォーマンス監視を含むテストと評価は、AIシステムが意図どおりに機能し、悪用や危険な改変に対するレジリエンスを備え、倫理的に開発・運用され、安全が確保され、適用される連邦法およびポリシーに準拠していることを保証するうえで役立ちます。」つまり、AIシステムやAIスタック、そして生成コードを含むその周辺のあらゆる要素を、コードベース、インフラ、攻撃対象領域のその他の要素と同じ水準で保護する必要があります。セキュリティチームにとって、これは何を意味するのでしょうか？
まず、AI規制の競争が始まる合図と捉えましょう。つまり、AIインフラ全体を保護するためのガードレールと安全対策を整えることを検討してください。対象には、データ、運用パイプライン、AIアプリの構築に使用するアプリケーションコードが含まれます。該当する場合は、既存のサイバーセキュリティ対策をAIOpsにも適用する必要があります。たとえば、AIスタックが急速に変化・進化している場合でも、コードをスキャンツールにかけることや、セキュリティ対策を自動化することは、あると望ましいものから、欠かせないものへと変わりつつあります。
次に、AIスタックやプロセスが監査される、あるいは法令遵守のために監査が求められることを想定しましょう。そのためには、AIに関するコンプライアンスプロセスと計画を策定し、AIアプリケーションに関わるすべてのサイバーセキュリティ対策を文書化する必要があります。
最後に、AI生成コードについては、AIによるコードの提案を、他のコードと同じレベルで精査・監査することが重要です。AIによるコード提案を利用する組織では、生産性とコードのリリース速度が向上するという強い証拠があります。そのため、コードベースの変化がさらに速くなるなかで状況を把握し続けるには、自動化されたセキュリティチェックがいっそう重要になります。
重要なポイントは？ベストプラクティスを実践し続けることです。
Snykは、AI生成コードのセキュリティをリードしています。他のソリューションより50倍高速で、IDE内でリアルタイムに、アプリケーションのコンテキストを完全に把握したうえで、バックグラウンドでチェックを実行します。さらに、今日でも明日でも、ビジネスに必要なあらゆる生成AIコーディングツールと連携できます。AI生成コードから始めて、AIスタックを基盤から保護し、安全性とコンプライアンスを確保しましょう。
AIが生成したコードのセキュリティ対策を始めましょう
無料のSnykアカウントを作成して、AIが生成したコードのセキュリティ対策を数分で始めましょう。または、専門家によるデモを予約して、Snykが開発者セキュリティのニーズにどう応えられるかをご確認ください。