SASとSnykが語る、開発・セキュリティチームにおけるAIの未来

作詞からコーディング、ネットワークの保護まで、AIには何でもできるように思えることがあります。ChatGPTやGoogle BardのようなLLMベースのエンジンが登場したことで、かつてはSFの世界の話だったものが、今ではインターネットに接続できる人なら誰でも利用できるようになりました。こうしたAIの進歩は多くの企業にとって大きな関心事であり、さまざまな疑問をもたらしています。

• AIツールを活用して生産性を高めるには、どうすればよいでしょうか？

• こうしたAIエンジンを自社製品に取り入れるには、どうすればよいでしょうか？

• ビジネスにとって、メリットとリスクのどちらが大きいのでしょうか？

• AIテクノロジーの未来に向けて、どのような準備をすればよいでしょうか？

先日開催されたファイヤーサイドチャットで、SASのエンジニアリング担当シニアバイスプレジデント、Jared Petersonと、Snykのプロダクトマーケティング担当バイスプレジデント、Ravi Mairaが、セキュリティチームと開発チームにおけるAIの未来について語りました。SASでJaredが率いるチームは、AIを活用してデータをインテリジェンスへと変換し、新たなリスクを持ち込むことなく開発・セキュリティチームの生産性を高めることに取り組んでいます。対談では、JaredとRaviが、セキュアなソフトウェア開発におけるAI活用について、次の4つの予測を取り上げました。

1. 開発者の生産性向上において、AIの重要性はさらに高まる。

2. チームは、AIのハルシネーションを防ぐことを優先すべき。

3. プロンプトエンジニアリングは、今後も重大な脅威であり続ける。

4. AIのバイアス検出が、より一般的になる。

開発者の生産性向上において、AIの重要性はさらに高まる

Jaredによると、今後数年間で成功を収めるのは、AIを開発者の生産性向上に活用する組織です。開発チームは、定型コードの生成など、繰り返し作業の自動化をはじめ、さまざまな用途にAIを活用できます。こうした小さな取り組みを積み重ねることで、将来的に大きな成果につながります。Jaredは次のように述べています。「ソフトウェア開発に携わるすべての人へのアドバイスは、『慎重になる理由は理解できます。それでも、AIを試し、自分の専門領域でのメリットとデメリットを見極めることをお勧めします』ということです。」

チームは、AIのハルシネーションを防ぐことを優先すべき

AIは開発チームにメリットをもたらす一方で、LLMはハルシネーション、つまり誤った情報を、しばしば非常にもっともらしく生成する傾向があります。AIをパイプラインに継続的に組み込み、適切に機能させるには、モデルを微調整する必要があります。Jaredは、チーム固有のユースケースに関連する小規模なデータセットでモデルをトレーニングすることを勧めています。

またJaredは、ユーザー向け機能を開発する際に、バックエンドでプロンプトエンジニアリングを行うことも提案しています。Jaredはこう語ります。「ユーザーが入力したテキストが、そのまま大規模言語モデルに渡されることはほとんどありません。そのテキストは、いわばテンプレートの一部となり、実際に大規模言語モデルに渡すプロンプトになります。ここでプロンプトエンジニアリングが非常に興味深いものになります。プロンプトを調整して大規模言語モデルのごく特定の領域に対象を絞ることで、ハルシネーションを抑えられます。」

プロンプトエンジニアリングは、今後も重大な脅威であり続ける

しかし、不適切なプロンプトエンジニアリングは、ソフトウェアに深刻な脅威をもたらす可能性があります。プロンプトは本質的にテンプレート化された設定ファイルであるため、悪意のある第三者が中間者攻撃を利用して改ざんするおそれがあります。

Jaredは次のように説明しました。「新たな脅威ベクトルとして興味深いのは、プロンプトにアクセスして、その値を変更することです。定義上、プロンプトの値を変えれば、大規模言語モデルの出力も変わります。そして、その出力がソフトウェアシステムに戻されることになります。」

LLMは悪意のあるプロンプトエンジニアリングなどの脅威にさらされやすいため、AIを利用するチームは慎重に進める必要があります。組織は、定期的なコードレビューやその他の品質保証策など、チェック・アンド・バランスの仕組みを整えるべきです。

AIのバイアス検出が、より一般的になる

組織がAIの利用を始める際には、新しいツールによって引き継がれる潜在的なバイアスにも注意を払う必要があります。AIは過去のデータを使って学習するため、人種に関する偏見など、歴史的な問題を未来に持ち込む可能性があります。

幸い、こうした問題を解消するためのツールが増えています。多くの企業や学術コミュニティが、バイアス検出や信頼できるAI技術に取り組んでいます。しかし、バイアスを避けるには、まず問題を認識し、責任を持って対処することが必要です。Jaredは次のように説明します。「『データに懸念すべき偏りがあるか』をお客様に認識してもらう方法はいくつかあります。……魔法のような出力が得られると、その魅力に引き込まれ、将来にまで引き継いでしまう好ましくない要素に気づかないことがあります。」

JaredとRaviの対談を視聴する

時代を先取りするには、より多くのソフトウェア開発チームがAIの活用に踏み出す必要があります。しかし、AIテクノロジーを安全に導入するには、時間と戦略、慎重さが求められます。ツールを段階的にテストし、安全対策を先回りして整えることが大切です。セキュアな開発におけるAIの未来について詳しく知るには、RaviとJaredによるファイヤーサイドチャットの全編をご覧ください。また、Snyk独自のDeepCode AIが、開発チームによるアプリケーションの脆弱性の発見と修正をどのように支援するかもご覧ください。

Play Video: Snyk and SaS: AI Fireside Chat