Von der Idee zur Wirkung: Wie die Bay Area die Zukunft sicherer KI gestaltet

Generative KI verändert die Entwicklung, Absicherung und Skalierung von Software. Beim Lighthouse-Event von Snyk im Silicon Valley kamen Führungskräfte aus Engineering-, Security- und Platform-Teams zusammen, um eine zentrale Frage zu erörtern: Wie entwickeln wir KI-gestützte Systeme, die schnell vorankommen, ohne Vertrauen zu gefährden?

Für viele ist diese Zukunft bereits Realität: 60 % der Unternehmen auf dem Summit gaben an, intern agentische Apps zu entwickeln.

Die Antworten waren nicht nur technischer, sondern auch kultureller, organisatorischer und strategischer Natur.

Von agentischen Apps bis hin zu Risikomodellierung in Echtzeit: In den Workshops, Podiumsdiskussionen und Demos des Tages kristallisierten sich einige zentrale Themen heraus: Transparenz schafft Handlungsspielraum. Leitplanken sind keine Hindernisse. Und Vertrauen ist keine spätere Phase. Es ist das Fundament.

Die neue Dev-Schleife: Denken → Entwickeln → Absichern → Wiederholen

Geschwindigkeit und Security stehen nicht im Widerspruch – sie bedingen einander. KI hat verändert, wie beide zusammenspielen. Das traditionelle SDLC-Modell passt nicht zu einer Umgebung, in der Agents kontinuierlich Inhalte generieren, Schlüsse ziehen und handeln.

In den Lighthouse-Sessions wurde untersucht, wie sich Entwicklungs-Workflows für agentische KI weiterentwickeln müssen. Weniger statische Freigaben, mehr dynamisches, kontextbezogenes Feedback. Dazu gehören Remediation in Echtzeit, Security-Champions mit KI-Kompetenz und Entwicklerinnen und Entwickler, die ihre KI-Assistenten nicht nur erstellen, sondern auch absichern.

Ein besonderer Moment war eine Live-Demo mit Cursor und Snyk. Ohne eine einzige Zeile Code zu schreiben, führte Randall Degges, Senior Director of Developer Relations bei Snyk, einen praxisnahen Workflow vor, der Code scannte, testete, korrigierte und auslieferte. Dabei prüfte der MCP-Server von Snyk Schwachstellen, erkannte riskante Muster und spielte sichere Updates über CI/CD-Pipelines ein.

Das Ergebnis? Sicherheitskorrekturen, die zuvor Stunden gedauert hätten, waren in wenigen Minuten erledigt – ohne Abstriche bei Qualität oder Kontrolle.

Secure by Design bedeutet: Security geht alle an

Gemeinsame Verantwortung war ein zentrales Thema des Tages. KI löst die Grenzen zwischen Dev-, Platform- und Security-Teams auf – jetzt sind alle eingebunden.

Ein Speaker brachte es auf den Punkt: „Wenn jemand einen Prompt in ChatGPT eingibt, um einen Workflow zu erstellen, ist diese Person App-Entwickler. Und jede Entwicklerin und jeder Entwickler ist jetzt potenziell auch KI-Engineer.“

Das verändert, wie wir Bereitschaft definieren.

Das von Snyk bei der Veranstaltung vorgestellte AI Readiness Framework hob fünf Säulen hervor: Transparenz, Zuständigkeit, sicheres Design, kulturelle Verankerung und kontinuierliche Absicherung. Die Teilnehmenden bewerteten anhand praxisnaher Anwendungsfälle den Reifegrad in jedem Bereich und ermittelten Lücken und Potenziale.

Die wichtigsten Erkenntnisse:

• KI-Security ist keine Spezialisierung, sondern Teamarbeit. Die besten KI-Security-Engineers sind oft ehemalige App-Entwickler, die den gesamten Kontext verstehen.

• Leitplanken statt Schranken. Es geht nicht darum, die Einführung von KI zu verlangsamen, sondern sie sicherer und schneller zu machen.

• Governance ist entscheidend. Von Shadow-Agents bis hin zu automatisch aktivierten SaaS-Funktionen: Security-Teams müssen von Anfang an eingebunden sein.

Ein Teilnehmer fasste es perfekt zusammen: „Unser größtes Sicherheitsrisiko ist nicht GenAI. Es ist, GenAI wie herkömmliche Software zu behandeln.“

KI-Vertrauen bedeutet mehr als Compliance

Frameworks wie das AI RMF des NIST bieten zwar einen Überblick auf hoher Ebene, doch das Publikum in der Bay Area wollte mehr als Theorie. Gefragt waren praktische, proaktive Strategien.

Die Diskussion wandte sich schnell Themen zu wie:

• MCP-Erkennung und -Validierung: Welche Modelle laufen wo? Wer hat sie trainiert? Welche Daten wurden verwendet? Geben sie sensible Informationen preis oder verhalten sie sich in der Produktionsumgebung unvorhersehbar?

• Red Teaming des Agent-Verhaltens: Wie simulieren wir über Prompt Injection und Output-Fuzzing hinaus adversariale Interaktionen in Echtzeit?

• Security Inception: Ein neues Feld für Shift Left – sicherheitsrelevanten Kontext direkt im Moment der Generierung einbinden, nicht erst nach dem Deployment.

Auffällig waren nicht nur die Innovationen, sondern auch die Offenheit. Ehrliche Berichte über Fehler, Beinahe-Vorfälle und unerwartete Transparenzlücken zeigten, wie schnell sich dieser Bereich entwickelt – und warum KI-Security parallel zur KI selbst aufgebaut werden muss.

Menschen darin schulen, Maschinen abzusichern

Wenn KI in der Verantwortung aller liegt, wie befähigen wir Menschen in jeder Rolle, entsprechend zu handeln?

Diese Frage führte zu einer der lebhaftesten Diskussionen des Tages: der Zukunft von KI-Security-Schulungen und Zertifizierungen.

Mehrere Unternehmen berichteten, wie sie ihre Security-Champions-Programme um KI-spezifische Workflows und Verantwortlichkeiten erweitern. Andere sprachen über die Einrichtung von KI-Governance-Räten mit Vertretungen aus Security, Recht, Compliance und sogar Marketing.

Ein Thema zog sich durch die Diskussionen: Kultur ist der Multiplikator. Teams weiterzubilden funktioniert nur, wenn die Organisation dies mitträgt. Wie eine Führungskraft erklärte: „Security-Awareness darf nicht nur aus der Durchsetzung von Richtlinien bestehen. Sie muss Entscheidungen gezielt beeinflussen – damit wir Menschen jeden Tag zu besseren Entscheidungen bewegen.“

Was jetzt ist – und was als Nächstes kommt

Bei der Veranstaltung in der Bay Area ging es nicht um Zukunftsvisionen, sondern um den Wandel, der heute stattfindet.

Die Teilnehmenden erhielten zwar einen ersten Einblick in kommende Snyk-Funktionen. Den größten Mehrwert boten jedoch die Gespräche mit anderen Fachleuten, praktische Demos und die Erkenntnis:

• Agentische Systeme sind bereits im Produktivbetrieb. Ob intern oder extern: Unternehmen setzen auf KI, um den NPS zu steigern, Abläufe zu automatisieren und Services im großen Maßstab zu personalisieren.

• Security darf nicht länger nur hinterherlaufen. Von Transparenzlücken in SaaS-Integrationen bis zu unbekannten Agents im Stack – die Angriffsfläche wächst rasant.

• Innovation braucht jetzt Leitplanken. Wie ein Teilnehmer aus der Medizintechnik sagte: „Sie können nicht warten, bis etwas ausgeliefert wurde, um nach Halluzinationen zu fragen. Nachvollziehbarkeit und Kontrollen müssen von Anfang an integriert sein.“

Das Schlusswort: KI ist die Zukunft der Software. Security muss entsprechend skalieren.

In seinen abschließenden Worten brachte Manoj Nair, Chief Innovation Officer von Snyk, alles zusammen.

Bei Security geht es nicht darum, zu KI „Nein“ zu sagen. Es geht darum, ihre Einführung verantwortungsvoll zu beschleunigen – Entwickler zu befähigen, Platform-Teams zu stärken und bei jedem Schritt Vertrauen aufzubauen, über den gesamten KI-SDLC hinweg.

„Wir haben es heute gesehen“, sagte er. „Echte KI-Systeme, die eigenständig Code schreiben, testen und Schwachstellen beheben. Doch ohne Transparenz, eine entsprechende Kultur und durchdachte Leitplanken funktioniert nichts davon.“

Die Zukunft ist nicht DevSecOps 2.0. Sie ist größer. Sie wird von Entwicklern vorangetrieben, durch KI erweitert und auf Vertrauen ausgerichtet. Und Snyk entwickelt die Plattform, die sie Wirklichkeit werden lässt.