KI-Sicherheit gemeinsam mit unseren Kunden gestalten: 5 Erkenntnisse aus dem Design-Partner-Programm von Evo

2025 haben wir uns auf den Weg gemacht, die wichtigste technologische Transformation dieses Jahrzehnts abzusichern – generative KI.

Unsere Vision ist es, Unternehmen dabei zu helfen, ihre KI schnell abzusichern, damit sie an der Spitze innovativ sein und KI- sowie agentische Anwendungsfälle in Produktion bringen können. Dafür haben wir Evo entwickelt, den weltweit ersten agentischen Orchestrator für KI-Sicherheit.

Die Grundlage jedes Produkts sind die Bedürfnisse der Kunden. Wir haben uns an unsere 5.000 Kunden gewandt und eine Gruppe von Design-Partnern ausgewählt, die uns dabei helfen sollte, die wichtigsten Herausforderungen zu verstehen und uns auf sie zu konzentrieren. Hier sind einige der wichtigsten Erkenntnisse aus den vergangenen zwölf Monaten, in denen wir Evo entwickelt haben.

Die wichtigsten Erkenntnisse

1. Was Sie nicht sehen, können Sie nicht absichern: Die Ausbreitung von KI und Shadow AI sind viel größer, als die meisten Teams annehmen. Der erste Schritt ist, sie sichtbar zu machen.

2. Individuelle KI ist die Zukunft: Erkennung muss über Standardbibliotheken hinausgehen und verstehen, wie Teams entwickeln.

3. Tabellen lassen sich nicht skalieren: Statische Erfassung führt zu blinden Flecken und einem falschen Gefühl von Kontrolle.

4. Teams brauchen einen Ausgangspunkt für Governance: Richtlinien, die sofort einsatzbereit sind und kontinuierlich durchgesetzt werden, sind entscheidend, um vom Chaos zur Kontrolle zu gelangen.

5. Risikoanalysen sind die fehlende Ebene: Ohne klare, umsetzbare Risikosignale können Teams keine Prioritäten setzen oder handeln.

1. Transparenz ist der Schlüssel, um die Ausbreitung von KI mit KI-Geschwindigkeit aufzudecken

Shadow AI ist weiter verbreitet, als CISOs annehmen, und Transparenz ist der Schlüssel. Die meisten Kunden wissen nicht, wie viele KI-Modelle, Dienste oder Agenten eingesetzt werden – bis sie es selbst sehen.

Mit dem Discovery Agent von Evo AI-SPM kommt der „Aha-Moment“ innerhalb der ersten fünf Minuten. Ein großer Einzelhändler scannte mehr als 16.000 Repositories, entdeckte über 500 Modelle und stellte fest, dass ein einziges Team acht verschiedene Versionen von GPT-3 verwendete. Das Team wusste, „dass es ein Problem gab – aber hatte bis jetzt keinen Überblick“.

Vor Evo dauerte es vier bis fünf Wochen, zehn bis zwölf Stakeholder und die teamübergreifende Koordination, um ein vollständiges KI-Inventar zu erstellen. Viele versuchten es mit Tabellen: einfach, vertraut, aber statisch. Mit zunehmender KI-Nutzung stoßen Tabellen an ihre Grenzen: Sie erfassen weder Shadow AI noch verborgene Abhängigkeiten oder Echtzeitverhalten. So entsteht ein falsches Gefühl von Kontrolle, und es bleiben Lücken bei Governance, Risiko und Compliance.

Erkennung ist keine Grundvoraussetzung – sie ist in dieser Marktphase das Produkt. Evo deckt llmlite, Agenten-Skills und neue KI-Funktionen automatisch und in Echtzeit auf und verschafft Ihnen vom ersten Tag an Transparenz und Kontrolle.

2. Die Lücke lässt sich nur mit maßgeschneiderter Erkennung schließen

Während Unternehmen über Standard-KI hinausgehen und eigene, selbst entwickelte Agenten aufbauen, um ihre Produkte von anderen abzuheben, setzen sie zunehmend auf interne Wrapper für Modelle, Tools und MCP-Server. Damit kontrollieren sie das Verhalten, integrieren proprietäre Daten und setzen Geschäftslogik durch. Dieser Wandel ist grundlegend: individuelle KI-Systeme werden zur Zukunft des Wettbewerbs zwischen Unternehmen.

Doch dadurch wird auch eine kritische Lücke sichtbar: Standardmäßige Erkennungsansätze, die auf bekannten Bibliotheken und Signaturen beruhen, erkennen diese maßgeschneiderten Implementierungen nicht. Mehrere Design-Partner machten auf diese schwer vorhersehbare Einschränkung aufmerksam: Sie hatten eigene Wrapper und Bibliotheken entwickelt, die für Standard-Erkennungstools unsichtbar waren.

Diese Erkenntnis führte zur Entwicklung von Custom Discovery. Diese Funktion lernt aus der Codebasis eines Kunden, um kundenspezifische Muster zu erkennen. Ein Konfidenzwert ermöglicht es Benutzern, vorgeschlagene Erkennungen zu bestätigen oder abzulehnen.

Unsere Design-Partner waren dabei entscheidend, denn die Funktion nutzt Kundencode (auch wenn dieser pro Mandant isoliert bleibt). Diese Erkenntnisse haben eine der differenzierendsten KI-SPM-Funktionen direkt geprägt.

3. CISOs brauchen einen skalierbaren Ausgangspunkt für Richtlinien.

Ein einziges Unternehmen kann Dutzende Modelle einsetzen, jedes mit unterschiedlichen Risikoprofilen in den Bereichen Code-Schwachstellen, Verzerrungen, Sicherheit und Datenexposition. Dennoch fehlt eine skalierbare Möglichkeit, sie einheitlich zu bewerten. Ein CISO brachte es so auf den Punkt: „Ich fühle mich, als würde ich ein Flugzeug fliegen, während wir noch die Instrumente im Cockpit bauen.“ Teams müssen sich zwischen langsamen, manuellen Prüfungen und dem vollständigen Verzicht auf Bewertungen entscheiden. So entstehen blinde Flecken in der Governance.

Um dieses Problem anzugehen, haben wir Snyk Generated Policies entwickelt: sofort einsatzbereite Richtlinien, die jedes Modell automatisch anhand der wichtigsten Sicherheitsrisiken bewerten. Statt sich auf statische Metadaten oder Aussagen von Anbietern zu verlassen, basieren diese Richtlinien auf kontinuierlichen Tests unter realen Bedingungen und einem standardisierten Risikoindex. So können Unternehmen systematisch erkennen, welche Modelle Aufmerksamkeit erfordern.

Ein VP of Security sagte uns, dass sofort einsatzbereite Richtlinien schon als Ausgangspunkt hilfreich wären. Gleichzeitig suchte ein auf Compliance spezialisiertes KI-Unternehmen, das gerade seine erste Sitzung des KI-Governance-Gremiums hinter sich hatte, aktiv nach einem schrittweisen Ansatz nach dem Motto „Kriechen, gehen, laufen“, um Kontrollen einzuführen.

Das Ergebnis ist ein Wandel von gelegentlichen, reaktiven Prüfungen hin zu einer einheitlichen, skalierbaren Priorisierung von KI-Risiken, die sich daran orientiert, wie moderne Unternehmen KI tatsächlich einsetzen. Dies führte zur Investition in die allgemeine Verfügbarkeit standardmäßiger Richtlinien und in eine kontinuierliche Richtlinienbewertung in Echtzeit oder nahezu in Echtzeit. So werden aus statischen Governance-Dokumenten durchgesetzte Kontrollen.

4. Risikoanalysen ermöglichen KI-Governance.

Bei den ersten Anwendern zeichnete sich ein klares Muster ab: Sobald Teams den „Wow, ich kann all meine KI-Assets sehen“-Moment hinter sich haben, lautet die nächste Frage immer: „Was davon ist eigentlich riskant?“

Die Herausforderung ist neuartig. Anders als bei SCA oder SAST gibt es für KI-Modelle kein CVE/CVSS-Äquivalent. Deshalb wurde der Risk Intelligence Agent entwickelt: eine von Grund auf neu erarbeitete Sicherheitsforschung dazu, wie KI-Modelle, Agenten, MCP-Server und mehr verwundbar sind.

Dafür mussten mehrere Arbeitsbereiche ineinandergreifen. Wir mussten Schwachstellenberichte aus Open-Source-Projekten auswerten und in reproduzierbare Tests für Modelle übersetzen, die sich als Benchmark verwenden lassen.

Wir mussten die vorhandenen Benchmarks untersuchen und in verschiedene Risikokategorien einteilen. Darüber hinaus brauchte es erhebliche Data-Science-Arbeit, um Rohwerte in umsetzbare Risikoindizes zu überführen – solche, auf deren Grundlage sich tatsächlich Richtlinien festlegen lassen. Außerdem war eine Data-Engineering-Pipeline erforderlich, die diese Indizes auf dem neuesten Stand hält, während sich das Modell-Ökosystem weiterentwickelt.

Anschließend musste das Ganze als autonomer Agent bereitgestellt werden, der Risiken bewerten kann.

Design-Partner unterstrichen die Dringlichkeit aus einem anderen Blickwinkel. Sie hatten KI-Komponenten in ihren Repositories, konnten dazu aber keine aussagekräftigen Metadaten finden. Ohne ein sofort verfügbares Risikosignal, auf das sie reagieren konnten, konnten sie nicht einmal damit beginnen, Richtlinien zu erstellen. Die Antwort darauf war der Risk Intelligence Agent.

5. Operative Sicherheit erstreckt sich auf Agenten, MCPs und die Durchsetzung von Richtlinien.

Während wir unseren Discovery Agent gemeinsam mit Design-Partnern weiterentwickeln, zeichnet sich eine Vision kontinuierlicher Transparenz über die Intentionen von Agenten, Repositories, Endpunkte und ML-Pipelines hinweg ab. Ein VP of Engineering eines Zahlungsdienstleisters aus den Fortune 500 nannte Skalierbarkeit und Einheitlichkeit als Kernproblem: mehr als 10.000 Laptops und 80.000 Repositories ohne zentrale KI-Kontrollinstanz zu verwalten – ein Skalierungsproblem, das Evo besonders gut lösen kann.

Design-Partner nutzen den Risk Intelligence Agent, um eine stetig wachsende Liste von Bedrohungen zu bewerten. Jeder CISO und jede erfahrene Führungskraft im Sicherheitsbereich betrachtet MCP als eine bedeutende neue Angriffsfläche. Shadow AI ist weiter verbreitet, als die meisten Führungskräfte annehmen: nicht genehmigte Modelle, MCP-Server in Tools wie Cursor und Claude Desktop sowie verborgene Cloud-Workloads.

Schließlich muss der Policy Agent KI steuern und nicht nur Probleme melden. Die Blockierung von CI/CD-Pipelines durch den Policy Agent ist seit der allgemeinen Verfügbarkeit von AI-SPM in Produktion. Design-Partner bauen formelle KI-Governance-Strukturen auf und suchen bei Anbietern Unterstützung bei deren Umsetzung. Ein VP eines Finanzdienstleisters bezeichnete ältere Tools als „wahnsinnig laut“. Ihm geht es weniger um die Gesamtzahl der Probleme als darum, umsetzbare, kritische Risiken zu erkennen, die das Geschäft tatsächlich beeinträchtigen. Daran muss sich der Policy Agent messen lassen.

Was wir von unseren Design-Partnern gelernt haben, ist klar

Die KI-Sicherheit steht noch ganz am Anfang, und die meisten Unternehmen bauen das Flugzeug, während sie es fliegen. Transparenz kommt zuerst, reicht aber nicht aus. Wenn Teams eigene KI-Systeme entwickeln, stoßen herkömmliche Ansätze für Erkennung, Risikobewertung und Governance an ihre Grenzen.

Die Zukunft der KI-Sicherheit wird von kontinuierlicher Erkennung, Risikoanalysen in Echtzeit und Richtlinien geprägt sein, die nicht nur formuliert, sondern auch durchgesetzt werden. Darauf baut Evo auf. KI-Sicherheit ist eine grundlegend neue Herausforderung, und sie lässt sich nur lösen, indem wir gemeinsam mit unseren Kunden daran arbeiten – mit denjenigen, die sie in Echtzeit gestalten.

Möchten Sie die Zukunft der KI-Sicherheit mitgestalten? Werden Sie noch heute Design-Partner.