Warum Technologieführungskräfte in ANZ das Zusammenspiel von KI, Geschwindigkeit und Sicherheit neu bewerten

Der technologische Wandel vollzieht sich immer schnell, doch mit KI überall hat sich das Tempo noch einmal deutlich erhöht. Unternehmen in Australien und Neuseeland planen hohe Investitionen in generative KI – durchschnittlich etwa 15 Millionen US-Dollar und damit mehr als im weltweiten Durchschnitt. Das setzt Technologie-, Sicherheits- und Engineering-Führungskräfte enorm unter Druck. Sie müssen schnell innovativ sein, stehen aber auch vor komplexen KI-Risiken. Deshalb müssen sie neu überdenken, wie sich Geschwindigkeit und Sicherheit miteinander vereinbaren lassen.

Organisationen in Australien und Neuseeland gehen zugleich ambitioniert und vorsichtig vor. KI eröffnet neue Möglichkeiten, bringt aber auch konkrete Sicherheitsherausforderungen mit sich. Führungskräfte ringen mit Problemen aus der Praxis. Sie möchten KI nutzen, ohne Sicherheitslücken zu vergrößern. Zu den lokalen Herausforderungen gehören:

• Erheblicher Fachkräftemangel (36 % der Berufe in Australien sind von einem Mangel betroffen).

• Sich ändernde Vorschriften.

• Der Umgang mit Cloud-Native-Umgebungen.

Hinzu kommt eine ausgeprägte Skepsis gegenüber der KI-Sicherheit. In Australien sehen 74 % Sicherheitsversagen als ihre größte Sorge – deutlich mehr als weltweit.

Bei dem Versuch, Innovation und Sicherheit in Einklang zu bringen, sehen sich Führungskräfte mit folgenden zentralen Herausforderungen konfrontiert:

1. Sichere Einführung von KI

Die Vorstellung, dass KI Code erstellt und Software antreibt, ist faszinierend. Doch KI-generierter Code enthält oft Schwachstellen. Wenn Organisationen KI in großem Umfang einsetzen und mehr Open Source nutzen, müssen sie Risiken sorgfältig steuern. KI braucht integrierte Sicherheitsvorkehrungen und Transparenz. Führungskräfte müssen sicherstellen, dass die Einführung von KI keine neuen Supply-Chain-Risiken mit sich bringt. Zudem stehen sie vor einer Vertrauenshürde: Die Menschen in Australien sind gegenüber KI skeptisch.

2. Mehr Geschwindigkeit ohne höheres Risiko

KI-Tools wie GitHub Copilot, Google Gemini und Cursor versprechen schnelleres Programmieren. Erste Tests bei der ANZ Bank zeigten, dass Ingenieurinnen und Ingenieure bis zu 55 % schneller arbeiteten. Doch dieses Tempo kann zu weniger sicherem Code führen. KI-generierter Code kann riskant sein, und Entwicklerinnen und Entwickler vertrauen ihm möglicherweise zu sehr. Studien zeigen, dass ein großer Teil des KI-generierten Codes Schwachstellen aufweist. Führungskräfte müssen Sicherheitsprüfungen direkt in die Entwicklung integrieren – und zwar im selben Tempo wie die KI. Regelmäßige Audits reichen nicht aus und hinterlassen große Lücken.

Diese Grafik zeigt, wie stark die Zahl der KI-bezogenen Schwachstellen (CVEs) von 2020 bis 2024 gestiegen ist.

3. Überblick und Risikopriorisierung

Moderne Anwendungen, insbesondere solche mit KI, sind komplex. Sie schaffen neue Angriffsflächen. Bei der Vielzahl an Sicherheitstools sehen sich Führungskräfte mit zu vielen Ergebnissen und verborgenen blinden Flecken konfrontiert. Sie brauchen einen klaren Überblick über Risiken, einschließlich KI-generierter Komponenten. Außerdem müssen sie das Rauschen herausfiltern und sich auf die tatsächlichen Bedrohungen konzentrieren. Dafür braucht es Kontext, etwa dazu, wie erreichbar ein Risiko ist, in welcher Umgebung es auftritt, wie kritisch es ist und welche Daten betroffen sind. Auch Shadow AI (die nicht genehmigte Nutzung von KI-Tools) erschwert die Lage. AI Security Posture Management (AI-SPM) unterstützt dabei, Risiken in KI-Umgebungen zu verwalten.

4. Einfachere Sicherheitsabläufe

Plattformteams müssen bereits mit zahlreichen Tools jonglieren. Sicherheit darf sie nicht ausbremsen. Sie muss einfach sein und sich nahtlos in die Entwickler-Workflows einfügen. Sie sollte „unsichtbar sein, bis sie gebraucht wird“. Entscheidend ist, Sicherheitsaufgaben zu automatisieren und Feedback sowie Korrekturen in Echtzeit bereitzustellen.

5. Konsolidierung von Tools

Viele Organisationen verwenden zu viele Sicherheitstools. Dadurch entstehen Datensilos und zusätzlicher Aufwand. Führungskräfte möchten die Sicherheit auf einer einzigen Plattform bündeln. Diese zentrale Übersicht hilft Teams, effektiver zu arbeiten und Sicherheitslücken in Entwicklung und Bereitstellung zu schließen.

Praxisbeispiele: KI für Sicherheit und Sicherheit für KI

Es braucht einen zweigleisigen Ansatz:

• KI nutzen, um die Sicherheit zu verbessern.

• KI-Systeme selbst absichern.

KI für die Sicherheit:

KI kommt in Sicherheitsplattformen zum Einsatz. Sie hilft dabei, Probleme zu finden, miteinander in Beziehung zu setzen und Duplikate zu entfernen. Sie klassifiziert Daten und prüft, ob sich anfällige Funktionen erreichen lassen. KI kann sogar Korrekturen schreiben und so die Behebung von Schwachstellen beschleunigen. Auch jenseits der Entwicklung beschleunigt KI die Erkennung von Bedrohungen und die Reaktion auf Sicherheitsvorfälle, indem sie Daten in Echtzeit analysiert. Außerdem hilft sie dabei, Sicherheitsergebnisse für Teams verständlich zu formulieren.

Sicherheit für KI:

KI-Systeme und die Anwendungen, die sie antreiben, müssen geschützt werden. Dazu gehört, KI-Code und -Anwendungen abzusichern. Zu den wichtigsten Bereichen zählen:

• Prompt-Injection: Angreiferinnen und Angreifer bringen KI-Systeme mit gezielt formulierten Prompts dazu, ihre Schutzmaßnahmen zu umgehen. OWASP zufolge ist dies das größte Risiko für LLM-Anwendungen.

• OWASP Top 10 für LLMs: Ein Framework, das zentrale Sicherheitsrisiken in KI-Anwendungen identifiziert.

• Threat Modeling: Risiken im KI-Lebenszyklus verstehen und verringern.

• LLM Red Teaming: Ethische Hackerinnen und Hacker testen KI auf Schwachstellen.

• AI-SPM: Durchsucht KI-Umgebungen nach Schwachstellen.

• Model Context Protocol (MCP): Verbindet KI-Workflows innerhalb von LLMs, kann aber die Risiken erhöhen.

• AI-BOM (Bill of Materials): Listet KI-Komponenten, Bibliotheken und Daten auf, um Supply-Chain-Risiken zu verwalten.

Neue Angriffsvektoren in der KI-nativen Entwicklung: OWASP Top 10 für Large Language Model Applications

Vertrauen in KI in ANZ schaffen

Führungskräfte in ANZ wissen: Um in der KI-gestützten Entwicklung erfolgreich zu sein, müssen sie Vertrauen in KI schaffen. Das bedeutet, in einer KI-geprägten Welt schnell und zugleich sicher voranzukommen. Es geht darum, den menschlichen Aufwand zu verringern und gleichzeitig Sicherheit und Governance zu stärken.

Vertrauen in KI beruht auf drei zentralen Säulen:

• Vollständiger Überblick über Risiken.

• Intelligente Priorisierung tatsächlicher Bedrohungen.

• Skalierbare Durchsetzung von Richtlinien, um Probleme zu beheben und zu verhindern.

Für ANZ bedeutet das: Lösungen müssen den lokalen Fachkräftemangel, Vorschriften und Herausforderungen berücksichtigen. Entwicklerinnen und Entwickler brauchen Tools, die KI-generierten Code ebenso schnell scannen und korrigieren, wie er entsteht. Sicherheitsplattformen müssen Sicherheitsteams einen einzigen, klaren Überblick über klassische und KI-native Anwendungen bieten und den Fokus auf reale Geschäftsrisiken legen. Außerdem müssen sich Leitplanken durchsetzen lassen, die skalieren, ohne die Entwicklung auszubremsen.

Die Herausforderungen sind groß. Doch wenn Führungskräfte in ANZ diese Spannungsfelder anerkennen und die richtigen Strategien einsetzen, können sie Vertrauen in diese neue KI-Welt schaffen.