KI-Systeme pentesten: OWASP Top 10 für LLM-Anwendungen

KI-Systeme pentesten: OWASP Top 10 für LLM-Anwendungen — Werkzeuge: garak, PyRIT, Promptfoo.

MODUL 01: TESTMETHODIK FÜR KI-ANWENDUNGEN

• Scoping und Bedrohungsmodell für LLM-Systeme
• Der OWASP-LLM-Top-10-Katalog als Prüfleitfaden
• Werkzeuge: garak, PyRIT, Promptfoo
• Wie sich ein KI-Pentest von einem klassischen unterscheidet
• Ihre Ausgangslage: Was wollen Sie prüfen?

MODUL 02: ANGRIFFE DURCHFÜHREN

• Prompt Injection und Jailbreaks systematisch testen
• Insecure Output Handling und Tool-Missbrauch
• Übung: Sie pentesten eine RAG-Anwendung
• Der Aha-Moment: die Schwachstelle hinter der freundlichen Antwort
• Reproduzierbar testen statt zufällig stochern

MODUL 03: DATEN- UND MODELLRISIKEN

• Sensitive Information Disclosure und Model Extraction
• Supply-Chain-Risiken: Modelle, Plugins, Datensätze
• Excessive Agency bei agentischen Systemen
• Übung: Sie testen Berechtigungsgrenzen eines Agenten
• Die unterschätzten Risiken jenseits des Prompts

MODUL 04: REPORTING UND REMEDIATION

• Befunde bewerten und priorisieren
• Handlungsempfehlungen für Entwicklerteams
• Übung: Sie erstellen einen Pentest-Bericht für eine KI-App
• Befunde, die Entwickler wirklich umsetzen
• Ihr Fahrplan für wiederkehrende KI-Pentests