Der Aufstieg des AI Security Engineer: Eine neue Disziplin für eine AI-native Welt

Wir erleben die Entstehung eines neuen Berufs an der Schnittstelle von Security Engineering und Security Operations – einer Disziplin, die es vor fünf Jahren noch nicht gab, weil es die Systeme, die sie schützt, damals noch nicht gab. Da künstliche Intelligenz sich vom Experiment zur Notwendigkeit entwickelt und agentische Systeme beginnen, autonom wahrzunehmen, zu denken, zu handeln und zu lernen, brauchen wir Verteidiger, die mit derselben Geschwindigkeit arbeiten können.

Ich spreche vom AI Security Engineer.

Beim ersten AI Security Summit in San Francisco von Snyk im vergangenen Oktober stand ich vor 400 AI-Innovatoren und Security-Experten und stellte eine Prognose auf: Innerhalb von drei Jahren wird jedes Fortune-500-Unternehmen AI Security Engineers beschäftigen. Nicht als nettes Extra, sondern als Überlebensnotwendigkeit. Die Reaktion im Raum ließ mich vermuten, dass ich womöglich noch zu vorsichtig war.

Der grundlegende Wandel im AI Engineering

Traditionelle Anwendungen sind deterministisch: Bei derselben Eingabe liefern sie dieselbe Ausgabe. Sie lassen sich mit etablierten Methoden testen, prüfen und absichern. Agentische AI-Systeme unterscheiden sich dadurch, dass sie von Grund auf nichtdeterministisch sind. Anders gesagt: Sie denken, passen sich an und handeln in der realen Welt.

Eine LLM-gestützte Anwendung kann bei jedem Aufruf unterschiedliche Ausgaben erzeugen, und ein autonomer Agent kann eine Abfolge von Aktionen ausführen, die kein Mensch explizit programmiert hat. Genau diese Dynamik macht AI so leistungsfähig – und bringt zugleich unsere traditionellen Security-Modelle an ihre Grenzen.

Bedenken Sie: Sam Altman räumte kürzlich ein, dass AI-Modelle inzwischen „so gut in Computersicherheit sind, dass sie damit beginnen, kritische Schwachstellen zu finden.“ Wenn AI Schwachstellen mit Maschinengeschwindigkeit finden kann, werden Angreifer sie auch mit Maschinengeschwindigkeit ausnutzen. Unsere Abwehr darf weder ins Stocken geraten noch stillstehen. Sie muss im selben Tempo arbeiten.

Die Angriffsfläche hat sich um Dimensionen erweitert, die wir noch immer kartieren. Prompt Injection. Ausnutzung von Speicher. Model Poisoning. Agent Hijacking. Angriffe auf die Supply Chain von Trainingsdaten. Modelldiebstahl durch Inferenzanfragen. Das sind keine theoretischen Szenarien – sie passieren bereits, und den meisten Unternehmen fehlt die Transparenz, um sie überhaupt zu erkennen. Bei Snyk haben wir diesen tektonischen Wandel erkannt und Evo als nächsten Evolutionsschritt für die Security AI-nativer Software vorgestellt.

Traditionelle AppSec ist unverzichtbar, doch AI verlangt mehr

Nach Jahrzehnten im Bereich Cybersicherheit sage ich es ganz direkt: Unsere bestehenden Frameworks wurden dafür nicht entwickelt. Traditionelle AppSec-Teams sind beispielsweise darauf geschult, Code-Schwachstellen zu finden – nicht adversariale Eingaben, die das Verhalten von Modellen manipulieren. Network-Security-Teams überwachen Verkehrsmuster, nicht die subtile Datenexfiltration, die durch sorgfältig formulierte Prompts möglich ist. Selbst unsere ausgefeiltesten Threat Models gehen von einem Grad an Determinismus aus, den AI-Systeme grundsätzlich nicht bieten.

Die Herausforderung liegt nicht darin, dass unsere Security-Experten unqualifiziert wären. Ganz im Gegenteil: Sie sind außergewöhnlich gut. Die Herausforderung besteht darin, dass AI-native Systeme Angriffsvektoren mit sich bringen, die es sonst nirgendwo in unserem Technologie-Stack gibt:

• Adversariale Eingaben: Anders als SQL Injection, die Codefehler ausnutzt, nutzt Prompt Injection das beabsichtigte Verhalten des Modells aus. Die Schwachstelle ist kein Bug – sie ist die Funktionsweise des Systems.

• Daten- und Speicherangriffe: Agentische Systeme mit dauerhaftem Speicher können mit der Zeit vergiftet werden, indem schädliche Anweisungen in scheinbar harmlosen Interaktionen verborgen werden. RAG und indirekte Prompt Injection nutzen diese zugrunde liegenden Infrastrukturen aus.

• Risiken in der Model-Supply-Chain: Wenn Sie ein Open-Source-Modell, ein über eine Remote-API angebundenes Modell von nicht vertrauenswürdigen und nicht steuerbaren Anbietern oder einen MCP-Server eines Drittanbieters integrieren, übernehmen Sie Risiken, die sich mit herkömmlicher Codeanalyse nicht untersuchen lassen.

• Unvorhersehbares Verhalten: Ein Agent kann das Falsche „lernen“. Um zu erkennen, ob ein AI-System subtil kompromittiert wurde, müssen Sie nicht nur seinen Code verstehen, sondern auch sein Verhalten im Lauf der Zeit.

Deshalb brauchen wir Spezialisten: Security-Fachleute, deren vorrangige Aufgabe es ist, diese AI-first- und AI-nativen Systeme abzusichern.

Das Berufsbild des AI Security Engineer

Wie sieht diese Rolle also aus? Auf Grundlage unserer Erfahrungen beim Aufbau der AI-Security-Funktionen von Snyk und unserer Gespräche mit Hunderten von Unternehmen an vorderster Front möchte ich das wesentliche Profil beschreiben.

Der AI Security Engineer bewegt sich an der Schnittstelle von drei traditionell getrennten Disziplinen: Platform Security, AI/ML Engineering und Threat Intelligence. Er kann ebenso souverän mit ML-Forschern über gradientenbasierte Angriffe sprechen wie dem Vorstand Modellrisiken erklären.

Der AI Security Engineer ist ein anpassungsfähiger Einsatzexperte. Er fühlt sich in Situationen der Ungewissheit wohl, lernt aus jedem Sicherheitsvorfall und geht davon aus, dass Angreifer schneller vorankommen, als statische Kontrollen Schritt halten können. Er verkörpert das, was wir den agentischen OODA-Loop nennen: Beobachten, Schlussfolgern, Handeln, Lernen. Das bedeutet: kontinuierlich, wenn möglich automatisiert und, wo nötig, unter menschlicher Aufsicht.

AI Security Engineers sind ebenso sehr Entwickler wie Verteidiger. Sie entwerfen standardmäßig sichere Architekturen und überlegen anschließend aus der Perspektive eines Angreifers, wie diese versagen könnten. Sie bauen Instrumentierung für Detection-Pipelines, die Verhaltensanomalien in AI-Systemen erkennen. Und sie entwickeln Tools, die es noch gar nicht gibt – denn in einem neuen Fachgebiet sind die Werkzeuge noch nicht geschrieben.

Vor allem verstehen sie, dass AI-Sicherheit nicht nur technischer Natur ist. Es geht um Vertrauen und Alignment sowie darum, sicherzustellen, dass die Systeme, die wir entwickeln, den beabsichtigten Zweck erfüllen, ohne von böswilligen Akteuren manipuliert zu werden oder in schädliches Verhalten abzugleiten.

Ein Vorschlag für das Berufsbild des AI Security Engineer

Für Unternehmen, die diese Funktion formalisieren möchten, folgt hier eine kompakte Rollenbeschreibung:

Der strategische Imperativ für AI-Sicherheit

Bedenken Sie, worum es geht. AI-Systeme werden für Betrugserkennung, klinische Entscheidungsunterstützung, autonome Abläufe, Kundeninteraktionen und Codegenerierung eingesetzt. Es handelt sich um Produktivsysteme mit Auswirkungen auf die reale Welt. Ein kompromittiertes AI-System stiehlt nicht einfach nur Daten: Es trifft in großem Umfang falsche Entscheidungen – unter Umständen über längere Zeit, bevor es jemand bemerkt.

Das regulatorische Umfeld entwickelt sich rasant: der EU AI Act, branchenspezifische Richtlinien und neue Haftungsrahmen. Unternehmen brauchen Fachleute, die diese Anforderungen in technische Kontrollen übersetzen und gegenüber Aufsichtsbehörden und Auditoren die Compliance nachweisen können.

Hinzu kommt die Vertrauensdimension. Ihre Kunden, Partner und Mitarbeiter müssen wissen, dass die AI-Systeme, mit denen sie interagieren, vertrauenswürdig sind. Dass sie nicht vergiftet, manipuliert oder kompromittiert wurden. Der Aufbau und Erhalt dieses Vertrauens erfordert spezielle Fachkenntnisse.

Deshalb hat Snyk AI-Sicherheit zur strategischen Priorität gemacht. Unsere Evo-Plattform wurde speziell entwickelt, um AI Security Engineers zu unterstützen. Sie bietet ihnen die nötige Transparenz, Richtlinienautomatisierung und agentische Security-Orchestrierung, um AI-native Anwendungen über den gesamten Entwicklungslebenszyklus hinweg zu schützen. Doch Tools allein reichen nicht aus – die Branche muss auch die menschlichen Kompetenzen aufbauen, die für ihren Einsatz erforderlich sind.

Besuchen Sie im März 2026 die RSA Conference? Dann laden wir Sie ein, an unserem Masterclass-Training für AI Security Engineers teilzunehmen. Sie erhalten eine Teilnahmebescheinigung für verschiedene Module zu AI-BOM, Red Teaming, MCP Security, Agent Skills Security und weiteren Labs:

Empfehlungen für Unternehmen zur Einführung von AI

Wenn Sie CISO, CTO oder Engineering-Leiter sind, empfehle ich Ihnen, beim Aufbau von Kompetenzen für AI-Sicherheit Folgendes zu beachten:

• Fangen Sie jetzt an – auch im Kleinen. Warten Sie nicht, bis 50 AI-Anwendungen produktiv im Einsatz sind. Bestimmen Sie ein oder zwei Ingenieure mit der passenden Eignung und bauen Sie die entsprechenden Kompetenzen auf. Die Lernkurve ist steil, und ein früher Start schafft wertvolles institutionelles Wissen.

• Investieren Sie in Schulungen. Deshalb hat Snyk parallel zu unserem AI Security Summit das Zertifizierungsprogramm für AI Security Engineers gestartet. Die erforderlichen Kompetenzen sind heute in den meisten Security- und Engineering-Lehrplänen nicht enthalten. Unverzichtbar sind praxisnahe Schulungen zur Absicherung von AI-generiertem Code, zu adversarialem Testing, MCP Security und den OWASP Top 10 für GenAI.

• Verankern Sie das Thema organisatorisch. AI-Sicherheit darf nicht zwischen Security- und AI-Engineering-Teams untergehen. Legen Sie klare Zuständigkeiten, Berichtslinien und Punkte für die funktionsübergreifende Zusammenarbeit fest. Die erfolgreichsten Unternehmen, die ich kenne, behandeln AI-Sicherheit als eigenständige Disziplin mit einem klaren Auftrag und eigenen Kennzahlen.

• Setzen Sie auf agentische Security. So wie Ihre AI-Systeme zunehmend agentisch werden, müssen es auch Ihre Security-Systeme. Manuelle Prüfungen und statische Regeln können mit der Dynamik von AI-Anwendungen nicht Schritt halten. Investieren Sie in Plattformen für adaptive, automatisierte Security-Orchestrierung, die gemeinsam mit den geschützten Systemen beobachten, schlussfolgern, handeln und lernen können.

• Messen Sie, worauf es ankommt. Die mittlere Zeit bis zur Erkennung und Behebung AI-bezogener Vorfälle. Die Abdeckung der AI-Systeme durch eine definierte Security-Posture (Tipp: Beginnen Sie mit AI-SPM). Der Automatisierungsgrad. Und ganz entscheidend: Lernt Ihr Security-System? Treten mit der Zeit weniger wiederkehrende Vorfälle auf?

Ein Blick in die Zukunft

Ich glaube, dass wir uns am Anfang eines tiefgreifenden Wandels befinden, der sich über Jahrzehnte erstrecken wird. AI-Systeme werden leistungsfähiger und autonomer, immer tiefer in kritische Infrastrukturen eingebettet, und ihre Angriffsfläche wird sich auf eine Weise erweitern, die wir heute noch nicht vollständig vorhersehen können. Die Angreifer – staatliche Akteure, kriminelle Organisationen und ja, auch andere AI-Systeme – werden immer ausgefeilter vorgehen. In dieser Zukunft werden AI Security Engineers keine spezialisierte Nische mehr sein. Sie werden ebenso verbreitet und unverzichtbar sein wie Application- und Cloud-Security-Engineers heute. Jedes Unternehmen, das AI entwickelt oder einsetzt, wird sie brauchen, und in jedem Security-Team muss diese Expertise verankert sein.

Die gute Nachricht: In diesem Bereich ist bereits eine bemerkenswerte Dynamik zu spüren. Der ausgebuchte AI Security Summit hat mir gezeigt, wie groß der Wissensdurst dieser Community ist und wie sehr sie lernen, sich austauschen und gestalten möchte. Die Fachleute, die in dieses Feld einsteigen, bringen Kreativität und Anpassungsfähigkeit mit, die mich wirklich optimistisch stimmen. Dieser Beruf entsteht gerade erst, die Threat Models werden geschrieben, die Tools entwickelt und die Frameworks erarbeitet. Wenn Sie als Security-Fachkraft überlegen, sich auf AI-Sicherheit zu spezialisieren, oder als AI-Ingenieur mehr über die Sicherheitsfolgen Ihrer Arbeit erfahren möchten, ist meine Botschaft einfach: Hier passiert gerade Entscheidendes. Hier liegt die Zukunft.

Snyk möchte Sie auf diesem Weg begleiten. Mit Snyks AI Security Platform, den kostenlosen und frei zugänglichen Schulungen auf Snyk Learn und der von uns geförderten AI Security Engineer-Community möchten wir Ihnen dabei helfen, die AI-native Zukunft abzusichern. Denn diese Zukunft ist bereits da. Die Frage ist, ob Sie sie verteidigen werden.

Erfahren Sie, warum traditionelle Security mit moderner Entwicklung nicht Schritt halten kann – und was Sie unbedingt tun müssen, um Ihre Software mit Maschinengeschwindigkeit zu schützen. Laden Sie den Bericht „Das Ende von Security mit menschlicher Geschwindigkeit“ herunter und erfahren Sie, wie Sie auf automatisierte, kontinuierliche Abwehr umstellen, die Ihre Teams und Ihren Code schützt, während sich Ihre Systeme weiterentwickeln.