Der umfassende Leitfaden zu AI Bills of Materials (AIBOMs)

James Govenor sagt, der Ansatz You Only Live Once (YOLO), auf dem OpenAIs ChatGPT-Tool basiert, werde „Endnutzern nicht das Vertrauen geben, das sie brauchen, um KI-Modelle in strategischen Initiativen einzusetzen.“

Übersetzt heißt das: Wenn Sie möchten, dass Ihrem KI-basierten Tool vertraut wird, sollten Sie es durch eine AI Bill of Materials (AIBOM) absichern.

KI und maschinelles Lernen (ML) kommen heute in vielen praktischen Anwendungsfällen zum Einsatz – etwa bei Sprachassistenten, Programmierassistenten, Chatbots für den Kundensupport und Schreibtools. Sie alle sollen den Alltag erleichtern. Diese breite Einführung findet jedoch weitgehend ohne Leitplanken statt. Der Bedarf an mehr Sicherheit, Transparenz und Nachverfolgbarkeit im Bereich KI ist genau der Grund, warum die Entwicklung von AIBOMs so wichtig ist.

In diesem Leitfaden erfahren Sie, was eine AIBOM ist und welche Vorteile sie bietet. Außerdem erhalten Sie acht konkrete Tipps für den Aufbau einer AIBOM, damit Ihr Modell auch bei künftigen regulatorischen Änderungen geschützt ist.

Was ist eine AIBOM?

Eine AIBOM ist eine umfassende Liste aller KI-Modelle, Tools und Daten, die in einer Softwareanwendung zum Einsatz kommen. Sie ermöglicht Governance und einen verantwortungsvollen Einsatz von KI. Dazu können die Datenpipelines, Modelle, Trainingsverfahren und die Betriebsleistung eines KI-Systems gehören.

AIBOMs verbessern Transparenz, Rechenschaftspflicht und Governance für KI-Systeme, indem sie ein detailliertes Inventar ihrer Komponenten und ihrer Entwicklung erstellen.

Stellen Sie sich eine AIBOM als Karte oder Schema vor, das alle einzelnen Komponenten Ihres KI-Systems erfasst. Dazu können gehören:

• Die Architektur rund um die Trainingsdaten Ihres Modells

• Die zulässigen Eingabe- und Ausgabetypen

• Die vorgesehenen Einsatzbereiche des Modells und mögliche Risiken oder Missbrauchsformen

• Die ökologischen oder ethischen Auswirkungen des Modells

• Name, Version, Typ und Ersteller des Modells

Außerdem muss eine AIBOM eine Echtheitsbestätigung des Modellerstellers enthalten.

AIBOMs und SBOMs im Vergleich

Sie liegen richtig, wenn Sie sich fragen, ob eine AIBOM nicht sehr nach einer Software Bill of Materials (SBOM) klingt.

Beide folgen demselben Konzept, doch SBOMs beziehen sich auf Software und AIBOMs auf KI-Modelle. Während SBOMs die allgemeinen Gründe und Prinzipien hinter der Software abbilden, ähnelt ein SBOM-Schema einem AIBOM-Schema. In manchen Fällen kann ein SBOM-Schema als Grundlage für die Erstellung einer AIBOM dienen.

Vorteile von AIBOMs

Im Kern ermöglichen AIBOMs der breiten Öffentlichkeit, fundierte Entscheidungen über KI-Systeme zu treffen.

• Transparenz. AIBOMs machen die Datenquellen, Tools, logistischen Verfahren, Hardware und alle weiteren Bestandteile eines KI-Systems transparent, die für dessen einwandfreie Funktion erforderlich sind.

• Reproduzierbarkeit. Wie jede andere Stückliste sollte eine AIBOM genügend Informationen enthalten, damit andere das KI-System nachbilden und vergleichbare Ergebnisse erzielen können.

• Rechenschaftspflicht. Eine AIBOM sorgt für Transparenz, sodass andere mehr über Herkunft und Kennzahlen Ihres KI-Systems erfahren können.

Verantwortungsvolle KI. Die in einer AIBOM enthaltenen Informationen adressieren auch mögliche ethische Bedenken. Dazu gehören Angaben zu Trainingsdaten, anhand derer sich Verzerrungen und Einschränkungen verantwortungsvoll bewerten lassen.

AIBOMs für Sicherheit und Vertrauen

Eine AIBOM ist entscheidend für den Schutz von Nutzerdaten und unterstützt regulierte Branchen dabei, gesetzliche Anforderungen in Bereichen wie Cybersicherheit, Datenschutz und Urheberrecht einzuhalten.

In der Anfangsphase galt generative KI in der breiten Öffentlichkeit als Neuheit und wird bis heute größtenteils ohne Regulierung eingesetzt. Daher bemühen sich Regulierungsbehörden, Datenschutz- und Sicherheitsbedenken angemessen zu berücksichtigen.

Auch Regierungen weltweit beginnen zu erkennen, dass KI nicht wieder verschwinden wird und die Regulierung mit der wachsenden Nachfrage Schritt halten muss. Im Oktober 2023 erließ US-Präsident Joe Biden eine umfassende Executive Order (EO), um die Verantwortlichkeit für fortschrittliche KI-Modelle zu stärken.

Mit seiner EO verpflichtet Präsident Biden US-Behörden dazu, im kommenden Jahr konkrete Regulierungsbereiche festzulegen. Die Anordnung ist zwar nicht rechtsverbindlich, wird jedoch die Prioritäten der Regulierungsbehörden prägen und als Grundlage für künftige KI-Gesetze dienen.

Das AIBOM-Spektrum

Angesichts der Vielfalt von KI-Algorithmen und ihrer schnellen Weiterentwicklung sollten Sie vor dem Aufbau einer AIBOM einige Herausforderungen berücksichtigen:

• Umfang: Je nach Komplexität Ihres KI-Modells sollten Sie entscheiden, was Ihr Inventar enthalten soll – von einer einfachen Bestandsaufnahme bis hin zu umfassender Dokumentation.

• Datenschutz- und Sicherheitsanforderungen: Berücksichtigen Sie die ethischen Auswirkungen Ihres KI-Modells und wägen Sie den Bedarf an Transparenz gegen den Schutz Ihres geistigen Eigentums ab.

• Lizenzierung: Wägen Sie ab, ob Ihr KI-Modell Open-Source-Komponenten oder proprietäre Lizenzen verwenden soll, damit Sie das Modell einfach optimieren und Änderungen dokumentieren können.

Standardisierung: Bei jeder Stückliste geht es darum, ein leicht verständliches Schema bereitzustellen. AIBOMs sind ein neueres Konzept. Ihre Arbeit kann daher dazu beitragen, künftige AIBOM-Modelle zu standardisieren.

Acht konkrete Tipps für den Aufbau einer AIBOM

Eine sorgfältig erstellte AIBOM ist entscheidend, um Risiken zu minimieren, Compliance-Anforderungen einzuhalten und die Zusammensetzung Ihrer KI-Anwendung transparent zu machen. Wenn Sie Ihre eigene AIBOM erstellen möchten, helfen Ihnen diese acht Tipps beim Einstieg:

1. Beginnen Sie mit einem Inventar. Der erste Schritt zu jeder Stückliste ist ein grundlegendes Inventar der wichtigsten Komponenten Ihrer KI-Systeme. Dazu können gehören:

   1. Trainingsdaten

   2. Datenquellen

   3. Modelle

   4. Software-Frameworks wie PyTorch oder TensorFlow

   5. Hardware

   6. Abhängigkeiten

   7. Paketmanager wie LangChain

2. Ermitteln Sie Risiken und Einschränkungen. Transparenz ist entscheidend. Deshalb sollten Sie bekannte Probleme, Verzerrungen, ethische Aspekte und andere Einschränkungen im Zusammenhang mit den Daten oder dem Design Ihrer KI-Systeme dokumentieren.

3. Dokumentieren Sie die Modellabstammung. Wenn sich Ihr Modell weiterentwickelt, müssen Sie lückenlose Aufzeichnungen führen. So können andere Herkunft und Entwicklung Ihrer KI-Modelle nachvollziehen und Versionen, erneutes Training sowie Änderungen dokumentieren.

4. Prüfen Sie Frameworks. AIBOMs sind noch relativ neu. Sehen Sie sich nach Möglichkeit vorhandene AIBOMs an, bevor Sie Ihre eigene erstellen. So können Sie feststellen, ob eines der bestehenden AIBOM-Frameworks Ihren Anforderungen entspricht. Mit Ihrer eigenen AIBOM tragen Sie außerdem dazu bei, Standards für andere zu entwickeln.

5. Automatisieren Sie die Datenerfassung. Integrieren Sie die AIBOM-Erstellung in Ihre Modellierungs- und Bereitstellungspipelines, um effizienter zu arbeiten.

6. Gehen Sie gezielt vor. Ermitteln Sie Modelle mit hoher Priorität oder hohem Risiko, auf die Sie Ihre ersten AIBOM-Maßnahmen konzentrieren, um mit Ihrem KI-gestützten Tool möglichst viel zu bewirken.

7. Richten Sie sich nach den Vorschriften. Im Kern soll eine AIBOM die Compliance unterstützen. Regeln und Vorschriften für KI ändern sich ständig. Informieren Sie sich sorgfältig über die regulatorischen Anforderungen an KI-Systeme in Ihrem Bereich. Berücksichtigen Sie außerdem den geografischen Standort der einzelnen Bestandteile Ihres KI-Systems, um die Einhaltung aller relevanten regionalen Vorschriften sicherzustellen. Dazu gehören der Herkunftsort der Trainingsdaten, der Standort der Infrastruktur und die Regionen, in denen das Modell eingesetzt werden kann.

8. Verbessern Sie die Reproduzierbarkeit. Stellen Sie Skripte, Modellgewichte und Konfigurationsdetails bereit, die andere benötigen, um Ihre Modelle nachzubilden und vergleichbare Ergebnisse zu erzielen.

Wie Snyk bei SBOMs unterstützt

Bei jedem technologischen Fortschritt – auch bei KI – müssen die ethischen, ökologischen und gesellschaftlichen Auswirkungen berücksichtigt werden. Sorgfältig erstellte AIBOMs ermöglichen fundiertere Entscheidungen zum Einsatz von KI.

Snyk unterstützt seit jeher die Prinzipien von SBOMs, die denen von AIBOMs ähneln: Transparenz, bessere Compliance und Sicherheit. Um mit Snyk eine SBOM zu erstellen, starten Sie über die Befehlszeile von Snyk Open Source oder verwenden Sie unsere API. Snyk kann Ihre gesamte Anwendung scannen und SBOMs in den Formaten CycloneDX und SPDX bereitstellen, damit sich die Daten einfacher nutzen lassen.

Bei Snyk wissen wir, wie wichtig Sicherheit, Governance und Vertrauen sind. Erstellen Sie ein kostenloses Snyk-Konto und integrieren Sie Sicherheitsprotokolle direkt in Ihre Softwareentwicklung. Oder buchen Sie eine Live-Demo, um zu erfahren, wie Sie Snyk an Ihre Anforderungen anpassen können.