LLM-Security mit KI: Prompt Injection, Jailbreaks und Gegenmaßnahmen

LLM-Security mit KI: Prompt Injection, Jailbreaks und Gegenmaßnahmen.

MODUL 01: ANGRIFFSFLÄCHEN VON LLM-ANWENDUNGEN

• Wie LLM-Apps aufgebaut sind – und wo sie verwundbar werden
• OWASP Top 10 für LLM-Anwendungen im Überblick
• Bedrohungsmodellierung für KI-Systeme
• Warum LLMs anders angreifbar sind als klassische Software
• Ihre Ausgangslage: Wie exponiert sind Ihre KI-Anwendungen?

MODUL 02: PROMPT INJECTION

• Direkte und indirekte Prompt Injection verstehen
• Angriffe über Dokumente, Webseiten und Tool-Ausgaben
• Übung: Sie greifen eine verwundbare App gezielt an
• Der Aha-Moment: der Angriff kommt aus einer harmlosen PDF
• Warum Filter allein nicht schützen

MODUL 03: JAILBREAKS UND DATENABFLUSS

• Jailbreak-Techniken und warum Blocklisten scheitern
• System-Prompt-Leaks und Trainingsdaten-Extraktion
• Sensible Daten und Berechtigungen schützen
• Übung: Sie provozieren einen Datenabfluss und stopfen ihn
• Die stillen Lecks, die niemand bemerkt

MODUL 04: VERTEIDIGUNG

• Guardrails, Input/Output-Filter und Grounding
• Least Privilege für Tools und Datenzugriffe
• Übung: Sie implementieren und testen Schutzmaßnahmen
• Verteidigung in Schichten statt Einzelmaßnahme
• Ihr Fahrplan zur sicheren LLM-Anwendung