Sicherheit im Zeitalter unendlicher Signale steuern – von der Erkennung zur Kontrolle

Anthropic hat die Schwachstellensuche in großem Umfang als Open Source veröffentlicht. Und jetzt?

Vor einigen Wochen startete Anthropic Glasswing, eine Initiative mit einem Volumen von 100 Millionen US-Dollar, die KI zur Identifizierung von Schwachstellen in großem Umfang einsetzen soll. Etwa zur selben Zeit stellte das Unternehmen Claude Mythos vor – ein System, das Softwarefehler autonom entdecken und ausnutzen kann.

Über diese Entwicklung habe ich in meiner vorherigen Analyse geschrieben: KI beschleunigt die Erkennung, doch das Vertrauen von Unternehmen hängt nach wie vor von deterministischer Validierung, automatisierter Behebung und Governance in großem Umfang ab. Alles, was seitdem geschehen ist, bestätigt diese These und macht den nächsten Schritt dringlicher: Wir müssen von der Erkennung zur Kontrolle übergehen.

Anthropics System Card: Claude Mythos Preview (PDF) bringt es klar auf den Punkt: Diese Systemklasse ist noch nicht für eine breite Veröffentlichung bereit. Durchbruch und Risiko treten gleichzeitig auf – und genau diese Spannung prägt eine neue Ära der KI-Sicherheit in Unternehmen.

Mehr Leistungsfähigkeit bedeutet nicht mehr Sicherheit

Immer wenn etwas Derartiges veröffentlicht wird, spaltet sich die Diskussion in zwei Lager. Ist KI gut für die Sicherheit, oder schafft sie neue Risiken? Die Antwort ist folgenreicher, als beide Seiten zugeben möchten: beides. Systeme wie Mythos können Schwachstellen aufdecken, die jahrzehntelang unentdeckt geblieben sind, komplexe Umgebungen analysieren und mit einer Geschwindigkeit arbeiten, die kein menschliches Team erreicht.

Gleichzeitig wird Code schneller generiert, als er überprüft werden kann, das Verhalten wird unvorhersehbarer, Angriffsflächen wachsen, und autonome Systeme greifen zunehmend aktiv in Produktionsumgebungen ein.

Erkennung ohne Kontrolle schafft Risiken

Erfahrene Sicherheitsverantwortliche reagierten schnell und mit hilfreichem Kontext auf diese Ankündigungen. Ein ehemaliger CISO eines Großunternehmens brachte es so auf den Punkt: „Wenn die Kennzahl fehlt, nach der alle Praktiker fragen, liest sich die Anzahl der Schwachstellen wie ein Verkaufsprospekt.“

Sicherheitsverantwortliche in systemrelevanten Finanzinstituten denken bereits in diese Richtung und erkennen: Wenn sich Software-Lieferketten beschleunigen, wird Governance – nicht die Erkennung – zum limitierenden Faktor beim Management systemischer Risiken.

Was bedeutet das in der Praxis? Erkennung ohne Validierung schafft Rauschen, Entdeckung ohne Priorisierung erzeugt Rückstände und Leistungsfähigkeit ohne Governance schafft Risiken. Sicherheit bemisst sich daran, was Sie kontrollieren können – nicht nur daran, was Sie finden.

Ihr KI-System gehört jetzt zu Ihrem Bedrohungsmodell

Das wichtigste Signal ist hier nicht nur, wozu diese Systeme in der Lage sind. Entscheidend ist auch, was ihre Entwickler über sie sagen.

In ihrer eigenen Preview-Dokumentation beschreibt Anthropic Modelle, die aus eingeschränkten Umgebungen ausgebrochen sind, auf externe Systeme zugegriffen, absichtlich als außerhalb ihres Aufgabenbereichs eingestufte vertrauliche Zugangsdaten abgerufen, laufende Prozesse verändert und interne Artefakte offengelegt haben. In einigen Fällen zeigten diese Systeme Anzeichen dafür, ihr Verhalten zu verschleiern und Bewertungsmechanismen zu manipulieren.

Lassen Sie sich das einen Moment durch den Kopf gehen. Das Unternehmen, das diese Systeme entwickelt, erklärt öffentlich: „Dies ist das höchste Alignment-Risiko aller Systeme, die wir je veröffentlicht haben. Sie sollten es nicht in Umgebungen einsetzen, in denen seine Aktionen irreversiblen Schaden verursachen könnten.“

Aktuelle Ereignisse machen das noch konkreter. Wenn die internen Abläufe von KI-Entwicklungstools offengelegt werden – wie beim Claude-Code-Leak –, sinkt der Aufwand, ihre Schwachstellen zu finden und auszunutzen, erheblich. Was zuvor undurchsichtig war, lässt sich nun analysieren und damit auch angreifen.

Wie IDC angemerkt hat, konzentriert sich die Branche stark auf die Absicherung des von KI erzeugten Codes, aber weitaus weniger auf die Absicherung der Tools selbst innerhalb der Software-Lieferkette.

Überlegen Sie, was das bedeutet. Dieselben Systeme, die produktionsreifen Code generieren, Schwachstellen entdecken und komplexe Workflows orchestrieren, können auch außerhalb der vorgesehenen Grenzen agieren, auf vertrauliche Systeme zugreifen und schwer vorhersehbare oder überprüfbare Entscheidungen treffen.

Je leistungsfähiger Systeme werden, desto weniger deterministisch und desto schwieriger zu steuern sind sie. Wenn die Organisationen, die diese Systeme entwickeln, ausdrücklich vor ihrem Verhalten warnen, stellt sich für jedes Unternehmen eine einfache Frage: Wer ist für ihre Steuerung verantwortlich, sobald sie in Ihrer Umgebung eingesetzt werden?

Drei grundlegende Veränderungen im KI-Zeitalter

1: Mehr Signale erhöhen ohne Kontrolle das Risiko

Jahrelang galt in der Sicherheitsbranche eine Einschränkung: Wir konnten nicht genügend Risiken aufdecken. Diese Einschränkung gehört der Vergangenheit an. Heute leben wir in einer Welt, in der die Erkennung praktisch unbegrenzt ist, die Codegenerierung immer schneller wird und KI direkt am Entwicklungsprozess beteiligt ist.

Je mehr Risiken Sie finden können, desto schwieriger wird es, sie zu verwalten. Das ist das Paradoxon von KI in der Sicherheit: Nicht mehr die Erkennung ist der Engpass, sondern die Kontrolle.

Das verändert das Betriebsmodell grundlegend. Sicherheitsverantwortliche müssen nun andere Fragen beantworten:

• Was ist in dieser Umgebung wichtig?

• Welches Verhalten ist zulässig?

• Wie werden Risiken priorisiert?

• Wie wird die Behebung durchgesetzt?

• Wie lässt sich die Governance sowohl für menschliche Entwickler als auch für KI-Systeme sicherstellen?

2: KI kann Risiken analysieren, aber nicht durchsetzen

KI kann Risiken finden und beheben, aber Sie können ihr die Durchsetzung nicht anvertrauen. KI-Systeme werden immer besser darin, zu analysieren: Schwachstellen zu erkennen, Lösungen vorzuschlagen und Angriffspfade zu simulieren. Doch Unternehmenssicherheit basiert nicht auf Analyse, sondern auf Durchsetzung.

Sie können eine KI bitten, Risiken zu analysieren. Sie können sie nicht dazu auffordern, die Einhaltung von Vorgaben zu garantieren. Das bedeutet:

• Richtlinien müssen konsequent angewendet werden.

• Kontrollen müssen sich vorhersehbar verhalten.

• Die Behebung muss überprüft werden.

• Risiken müssen auditierbar sein.

3: Sicherheit verlagert sich von der Erkennung zur Kontrolle

Mit der zunehmenden Verbreitung der Erkennung wird eine neue Ebene unverzichtbar: eine Kontrollebene, die Signale in Kontext übersetzt, Richtlinien konsistent anwendet, Wichtiges priorisiert, die Behebung orchestriert und die Governance für menschliche wie maschinelle Akteure durchsetzt.

Erkennung wird zum Input. Kontrolle wird zum System. Governance wird zum Ergebnis. Bei Sicherheit geht es nicht länger darum, Risiken zu finden. Es geht darum, sie zu kontrollieren.

Doch etwas muss hier direkt gesagt werden, denn in dieser Diskussion wird es oft übergangen: Sie können nicht alles kontrollieren, und es ist unrealistisch, das zu erwarten.

Kontrollen sind absolut entscheidend. Aber die Vorstellung, ein ausreichend robustes Kontrollsystem könne jeden Sicherheitsvorfall verhindern und jeden Angriffsvektor abfangen? Das ist eine Illusion. Die Bedrohungslandschaft verändert sich zu schnell, Systeme sind zu komplex, und KI führt zu Fehlerszenarien, die wir noch nicht vollständig erfasst haben.

Die Frage lautet also nicht nur: „Wie verhindern wir das?“ Sondern auch: Wie schnell können wir erkennen und reagieren, wenn doch etwas durchrutscht?

Reaktion auf Sicherheitsvorfälle ist keine Ausweichlösung. Sie ist eine Kernkompetenz, die von Jahr zu Jahr wichtiger wird. Die Teams, die sich durchsetzen, werden nicht nur über die strengsten Kontrollen verfügen. Sie werden Vorfälle eindämmen, darauf reagieren und sich schneller davon erholen können, als ein Angreifer seine Attacke ausweiten kann. Je autonomer KI-Systeme werden und je größer der mögliche Schadensradius eines Fehlers ist, desto mehr wird diese Reaktionsfähigkeit zu einem echten Wettbewerbsvorteil.

Doch Prävention und Reaktion allein ergeben noch kein vollständiges Bild. Sie benötigen erstklassige Sicherheitsexpertise, die Ihre Sicherheitslage laufend überprüft und verbessert – Menschen, die nicht nur die Technologie, sondern auch den Angreifer verstehen. Das bedeutet: die besten KI-Modelle einsetzen (mehrere, nicht nur eines, denn verschiedene Modelle haben unterschiedliche Stärken und der Einsatz nur eines Modells schafft einen einzelnen Ausfallpunkt), die besten deterministischen Regelsätze und modernsten Analysetechniken nutzen und erfahrene Sicherheitsexperten einbeziehen, die mit menschlicher Intuition und Urteilsvermögen die Lücken schließen, die sich allein durch Automatisierung nicht abdecken lassen.

Genau diese Kombination aus erstklassiger KI, deterministischen Kontrollen und menschlicher Expertise entwickeln wir bei Snyk. Nicht, weil eine einzelne Ebene für sich ausreicht, sondern weil sich die Bedrohungslandschaft zu schnell verändert, als dass ein einzelner Ansatz Schritt halten könnte. Wir setzen auf jeder Ebene die besten verfügbaren Tools ein und verbinden sie zu einem umfassenden Sicherheits-Stack, der sich gemeinsam mit den Bedrohungen weiterentwickeln kann, für die er konzipiert wurde.

KI ist bereits in der Produktion im Einsatz, Governance dagegen noch nicht. Unternehmen bringen KI-generierten Code in die Produktion, integrieren Modelle in kritische Workflows und lassen autonome Systeme in ihrem Namen handeln.

Ohne Kontrollebene führt das zu unbegrenzter Angriffsfläche, uneinheitlicher Behebung, eingeschränkter Transparenz und wachsendem regulatorischem Druck. Mit dem richtigen Modell werden Risiken messbar, die Behebung skalierbar, KI steuerbar und Sicherheit zu einem echten strategischen Vorteil.

Kontrolle prägt die nächste Ära der Sicherheit

Anthropics Ankündigungen signalisieren einen grundlegenden Wandel: Die Zukunft der Sicherheit wird nicht davon bestimmt, wie viele Risiken wir aufdecken können. Entscheidend wird sein, wie gut wir sie kontrollieren können.

In einer Welt unendlicher Signale wird Erkennung vorausgesetzt – und Rauschen zur Gefahr. Kontrolle ist wichtig. Reaktionsgeschwindigkeit ist wichtig. Kontinuierliche Verbesserung auf Grundlage echter Expertise ist wichtig. Organisationen, die alle drei Aspekte gleichermaßen vorantreiben, sind auf die tatsächlichen Anforderungen der Sicherheit im KI-Zeitalter vorbereitet.

Genau darauf arbeiten die besten Plattformen hin: Rohsignale in durchsetzbare Richtlinien, überprüfte Behebung und eine Governance zu überführen, die mit der KI-gestützten Entwicklung Schritt hält.

Die Realität im Vorstand

Die Quintessenz: KI verändert, wie Risiken aussehen – nicht nur, wie wir sie finden. Die Systeme, mit denen Ihre Software heute entwickelt wird, können schneller, intelligenter und unvorhersehbarer handeln als je zuvor. Vorstände, CISOs und Führungskräfte stehen damit vor einer einfachen Frage: Wer ist verantwortlich, wenn sich KI nicht wie vorgesehen verhält, und wer steuert sie, bevor sie zum Einsatz kommt?

Organisationen, die das richtig angehen, werden nicht jeder Schwachstelle hinterherlaufen. Sie werden Risiken in großem Umfang kontrollieren, Governance in Echtzeit durchsetzen und unendliche Signale in umsetzbare, auditierbare Entscheidungen verwandeln. Und wenn doch etwas schiefgeht, reagieren sie schnell genug, damit daraus keine Katastrophe wird.

Genau darauf arbeiten die besten Plattformen hin: Rohsignale in durchsetzbare Richtlinien, überprüfte Behebung und eine Governance zu überführen, die mit der KI-gestützten Entwicklung Schritt hält. Bei Snyk arbeiten wir aktiv auf dieses Ziel hin.

Im KI-Zeitalter ist Kontrolle keine Option. Sie ist der einzige Weg zu Vertrauen.