Sicherer Einsatz von KI in der Softwareentwicklung

Durch den Einsatz agentischer KI entsteht in Unternehmen derzeit eine enorme Menge an neuem Quellcode und selbst entwickelten Anwendungen. Sprachmodelle liefern mehr Code in kürzerer Zeit, als ein Team durch Review und Tests verarbeiten kann. Zugleich führen KI-Agenten eigenständig Befehle aus, installieren Pakete und haben Zugriff auf sensible Daten.

Neben klassischen Entwicklungsteams programmieren nun auch Fachbereiche eigene Anwendungen, wobei der etablierte Software Development Lifecycle (SDLC) oft nicht befolgt wird. Der Gewinn an Produktivität und die Möglichkeit, die eigenen Geschäftsprozesse durch agentische Softwareentwicklung zu optimieren, birgt allerdings auch Risiken. Abgeflossene Geschäftsgeheimnisse, „halluzinierte“ schädliche Abhängigkeiten und gelöschte Produktiv-Datenbanken sind mögliche Folgen, wenn die Leitplanken des SDLC nicht eingehalten werden.

Innerhalb des Workshops zeigen wir Ihnen anhand von Live-Hacking-Demos, wie Angreifer KI-Modelle und KI-Agenten beispielsweise durch Prompt Injections ausnutzen können.

Gemeinsam durchlaufen wir den typischen Software Development Lifecycle und identifizieren in jeder Phase, wo agentische KI einen Nutzen bringt, welche Risiken sich dabei ergeben und welche Maßnahmen den Einsatz absichern können.

Für jede Phase erarbeiten wir mit Ihnen umsetzbare Maßnahmen, um den Einsatz agentischer KI in Ihrem Unternehmen effektiv abzusichern. Wir unterstützen bei der Priorisierung und können Sie auch im Nachgang der Schulung bei der Umsetzung begleiten.

Ziele der Schulung

• Angriffsketten durchschauen: Sie kennen die wesentlichen Bedrohungen KI-basierter Angriffe und Risiken in der agentischen Softwareentwicklung.
• Erarbeitung von Schutzmaßnahmen: Sie können gezielte Schutzmaßnahmen in allen Phasen der Softwareentwicklung erarbeiten.
• Maßnahmen priorisieren: Sie leiten aus den möglichen Maßnahmen eine konkrete, umsetzbare Liste von Quick-Wins und langfristigen Härtungsmaßnahmen ab.
• Sicherer Einsatz agentischer KI: Sie können agentische Tools mehrwertbringend und sicher einführen.

Kursinhalt im Überblick

• Lifecycle-Security: Sie analysieren die Bedrohungslage in den Phasen des Secure Software Development Lifecycles.
• Lethal Trifecta: Sie identifizieren für Ihre KI-Anwendungsfälle die kritische Kombination aus Datenzugriff, ungesichertem Input und Exfiltrationswegen als primäre Angriffsfläche.
• Metas Agents Rule of Two: Sie wenden das Prinzip der Risiko-Limitierung an, indem Sie Agenten durch die Beschränkung auf maximal zwei kritische Attribute absichern.
• Agent-Governance: Sie erarbeiten Techniken zur Isolation (Sandboxing) und zur zentralen Rechteverwaltung.
• KI-Angriffe in Live-Demos: Sie erleben den Einsatz manipulierter Prompts und die Kompromittierung von Agenten in der Praxis.

Zielgruppe

Voraussetzung

Schulungsort

Die Schulungen der aramido-Akademie finden in den modernen Räumlichkeiten der aramido GmbH in Karlsruhe statt. Sie erreichen uns sowohl mit den öffentlichen Verkehrsmitteln als auch mit dem Auto:

aramido GmbH
Durlacher Allee 75 – 77
76131 Karlsruhe

Gerne bieten wir Ihnen diese Schulung auch als Inhouse-Training oder online an.