Threat Modeling für KI-gebaute Apps
Schnell mit KI gebaute Apps brauchen dennoch einen klaren Blick darauf, was schiefgehen kann. In diesem halbtägigen Workshop lernt Ihr Team eine schlanke Threat-Modeling-Methode und nutzt Coding Agents, um Diagramme und Bedrohungslisten zu entwerfen, die Ihre Engineers anschließend hinterfragen und priorisieren. Wir behandeln auch Bedrohungen speziell für LLM-Funktionen. Sie modellieren eine eigene App oder ein Sandbox-Projekt.
Unverbindlich anfragen- Dauer
- halber Tag
- Level
- Fortgeschritten
- Format
- Remote oder vor Ort, Deutsch oder Englisch
- Gruppengröße
- Bis zu 12 Teilnehmende pro Trainer
Für wen der Workshop ist
- Entwickler und Architekten KI-gebauter oder KI-gestützter Apps
- Security Champions und Product Owner
- Tech Leads, die Sicherheitsdenken früh im Design verankern wollen
Was Ihr Team danach kann
- Ein Datenflussdiagramm mit Werten und Vertrauensgrenzen zeichnen
- Eine einfache strukturierte Methode wie STRIDE auf die eigene App anwenden
- Mit einem Agent Bedrohungen entwerfen und anschließend prüfen und bewerten
- Bedrohungen speziell für LLM-Funktionen erkennen, etwa Prompt Injection und zu weite Agent-Berechtigungen
- Bedrohungen in Anforderungen, Tests und Backlog-Einträge übersetzen
Agenda
- Warum früh modellierenWo KI-gebaute Apps angreifbar sind und weshalb Tempo vorausschauendes Denken noch wertvoller macht.
- Abgrenzung und DatenflussdiagrammeSystem, Werte, Akteure und Vertrauensgrenzen definieren, wobei ein Agent aus dem Code einen Entwurf erstellt.
- Bedrohungen findenDas Diagramm mit einer strukturierten Methode durchgehen und sich vom Agent weitere Fälle vorschlagen lassen, die Sie hinterfragen.
- Bedrohungen in LLM-FunktionenPrompt Injection, Datenabfluss über den Kontext und zu weit gefasste Tool-Berechtigungen betrachten.
- Priorisieren und handelnRisiken bewerten, Gegenmaßnahmen festlegen und in Tests und Tickets überführen.
Voraussetzungen
- Grundverständnis davon, wie Ihre App aufgebaut ist und betrieben wird
- Eine echte App oder ein Sandbox-Projekt zum Modellieren
- Keine Sicherheitsvorkenntnisse erforderlich
Warum Workshops von apprat.io
- Geleitet von praktizierenden AI Code Engineers
- Mit Ihren Repositories oder einem Sandbox-Projekt
- KI-Tempo, menschliche Verantwortung: Review, Sicherheit und Governance inklusive
- Zertifizierte Prozesse nach ISO 9001 & ISO/IEC 27001
- Follow-up-Sprechstunde nach 30 Tagen
Unverbindlich anfragen
Erzählen Sie uns von Ihrem Team und Ihren Zielen. Sie erhalten innerhalb eines Werktags eine passende Agenda und ein Angebot – kostenlos und unverbindlich.
24/7-Telefonsupport auf Deutsch & Englisch:
+49 761 519 751 50
Häufige Fragen
Brauchen wir Security-Expertise?
Nein. Die Methode ist schlank und für Entwicklungsteams gedacht.
Ist das Ergebnis eine formale Risikobewertung?
Es ist ein praxisnahes Bedrohungsmodell für die Entwicklung. Formale Bewertungen bleiben eine eigene Aufgabe Ihrer Security- oder Compliance-Funktion.
Können wir eine App ohne KI-Funktionen modellieren?
Ja. Die Methode ist allgemein, der LLM-Teil ist nur ein Abschnitt.
Mit * markierte Felder sind Pflichtfelder.