Adversarial Machine Learning (ML): Angriffe auf KI-Modelle verstehen und abwehren

Adversarial Machine Learning (ML): Angriffe auf KI-Modelle verstehen und abwehren.

MODUL 01: ANGRIFFSKLASSEN IM ÜBERBLICK

• Evasion, Poisoning, Model Inversion und Membership Inference
• Warum ML-Modelle angreifbar sind: die Entscheidungsgrenzen
• Bedrohungslage in Produktivsystemen
• Wo Angreifer ansetzen – und was auf dem Spiel steht
• Ihre Ausgangslage: Welche Modelle sind exponiert?

MODUL 02: EVASION-ANGRIFFE

• Adversarial Examples in Bild und Text
• Übung: Sie täuschen ein Bildklassifikationsmodell
• Transferierbarkeit von Angriffen zwischen Modellen
• Der Aha-Moment: eine minimale Störung, eine völlig falsche Vorhersage
• Wie robust ist Ihr Modell wirklich?

MODUL 03: DATEN- UND DATENSCHUTZANGRIFFE

• Data Poisoning entlang der ML-Pipeline
• Membership Inference und Rückschluss auf Trainingsdaten
• Differential Privacy als Gegenmaßnahme
• Übung: Sie demonstrieren einen Poisoning-Effekt
• Datenschutz als Teil der Modellsicherheit

MODUL 04: VERTEIDIGUNG

• Adversarial Training und robuste Architekturen
• Eingangsvalidierung und Monitoring auf Angriffe
• Fallstudie: Robustheitsanalyse eines Produktivmodells
• Robustheit messbar machen
• Ihr Fahrplan zu widerstandsfähigen Modellen