Was ein „Aha“-Moment mit einem Org-Admin-Token einen DevSecCon-Speaker über KI-Sicherheit lehrte

Während der Sommer ausklingt und die Diskussionen rund um KI-Sicherheit an Fahrt aufnehmen, steckt das Snyk-Team mitten in den Planungen für ein Doppel-Event im Oktober: die Rückkehr der DevSecCon Flagship Conference, die sich dieses Jahr auf die Absicherung des Wandels hin zu einer AI-nativen Entwicklung konzentriert, und die Rolle als Gründungspartner des ersten AI Security Summit. 

Brett Smith, Distinguished Software Developer bei SAS, Snyk Ambassador und zweifacher DevSecCon-Speaker, verriet, was ihn zu seiner diesjährigen KI-Fachsession inspiriert hat, was ihm mit Blick auf die Zukunft der KI-Sicherheit Sorgen bereitet und mehr.

Können Sie uns etwas über Ihren beruflichen Werdegang erzählen und darüber, wie Sie dahin gekommen sind, wo Sie heute stehen?

Ich bin seit mehr als 25 Jahren in der IT tätig und habe meinen beruflichen Hintergrund vor allem in der Systemadministration. Im Laufe der Jahre hatte ich viele verschiedene Rollen: Tester, Entwickler, Distro-Maintainer, Systemadministrator und Security Engineer. Ein Thema zog sich dabei immer durch: Automatisierung. 

Auch wenn sich die Titel von Sys Admin über DevOps und SRE bis hin zu Platform Engineer ändern, bleibt die Arbeit dieselbe. Als Executive Order 14028 veröffentlicht wurde, begann ich daran zu arbeiten, unsere Supply Chain und Pipelines abzusichern, um die Anforderungen an die Attestierung zu erfüllen. Mit dem Aufkommen von KI, LLMs und generativer KI beschäftige ich mich damit, wie wir diese neuen Tools sicher in unsere Pipelines integrieren können.

Erzählen Sie uns bitte, was Sie zum Titel Ihres Vortrags inspiriert hat: Agents and MCP Servers: Are the Electric Sheep Safe? Und was bedeutet er für Sie?

In den Titeln meiner Vorträge kommen immer elektrische Schafe vor – das ist ein Running Gag, und den muss man konsequent durchziehen. Der Titel ist eine Anspielung auf Blade Runner und das Buch, auf dem der Film basiert: Do Androids Dream of Electric Sheep. Die elektrischen Schafe stehen für unsere Produkte. 

Ich versuche immer, in meinen Vorträgen darauf anzuspielen. Besonders gut passt das zu KI, denn die Grenze zwischen Mensch und Maschine verschwimmt zunehmend, seit Modelle den Turing-Test bestanden haben.​

Ohne zu viel vorwegzunehmen: Welches zentrale Problem soll Ihre Session lösen, und worauf können sich die Teilnehmenden freuen?

MCP-Server und Agents eröffnen eine neue Angriffsfläche für Supply-Chain-Angriffe. Wenn wir nicht-deterministische KI in unsere Pipelines integrieren, müssen wir uns der Sicherheitsrisiken bewusst sein, die diese neuen Tools mit sich bringen. 

Wir sprechen darüber, wie agentische KI den SDLC verbessern kann und gehen zugleich auf die damit verbundenen Sicherheitsrisiken ein. Der Vortrag behandelt die Rolle von MCP-Servern beim Umgang mit diesen Risiken und stellt Strategien vor, um sie vor potenziellen Angriffen zu schützen.

Können Sie konkrete „Aha!“-Momente beschreiben, die Ihnen bei der Ausarbeitung Ihrer Session-Inhalte gekommen sind?

Als ich an einem MCP-Server für unsere Pipeline arbeitete und einige Online-Tutorials durcharbeitete, fiel mir auf, dass Sicherheit in den Beispielen größtenteils vernachlässigt wurde. Beim Testen des GitHub-MCP-Servers im Rahmen des Projekts stellte ich fest, dass sich der Server mit meinem Org-Admin-Token bei GitHub authentifizierte, statt mit dem schreibgeschützten Token, das ich eigens für den MCP-Server erstellt hatte. 

Ich hätte eine ganze Organisation lahmlegen können. Da wurde mir klar, dass ich eine Sicherheitscheckliste für den Einsatz von MCP-Servern und Agents erstellen musste.

Wer profitiert am meisten von Ihrer Session, und welche zentrale Erkenntnis sollen die Teilnehmenden mitnehmen?

Ich hoffe, dass Platform Engineers, DevOps Engineers, Entwicklerinnen und Entwickler sowie Sicherheitsexpertinnen und -experten verstehen, dass KI, LLMs und generative KI in der Pipeline dasselbe Sicherheitsniveau erfordern wie jeder andere Code und jedes andere Tool.

Das Motto Ihrer Veranstaltung lautet, dass Sie Angst vor Robotern haben. Was bereitet Ihnen mit Blick auf die Zukunft der KI und ihre Auswirkungen auf die Sicherheit am meisten Sorgen?

KI-Modelle in der Supply Chain. Nicht-deterministische Kobolde, die ihr Unwesen treiben.

Worauf freuen Sie sich bei DevSecCon 2025 am meisten?

Ich freue mich sehr darauf, mein Wissen zur KI-Sicherheit zu erweitern und von den Expertinnen und Experten auf diesem Gebiet zu lernen. Und mit Gerald Crescione zu sprechen, macht immer Spaß.

Verpassen Sie weder Bretts Session noch unser übriges beeindruckendes Programm. Melden Sie sich jetzt für DevSecCon 2025 an, sichern Sie sich Ihren Platz und erleben Sie einen ganzen Tag mit virtuellen Inhalten, Strategien und Networking-Möglichkeiten rund um KI-Sicherheit.