Erklärbare KI (XAI): Methoden und Anwendungen für transparente Modelle

Erklärbare KI (XAI): Methoden und Anwendungen für transparente Modelle.

MODUL 01: EINFÜHRUNG IN EXPLAINABLE AI (XAI)

• Warum Erklärbarkeit in KI wichtig ist
• Begriffsklärung: Erklärbarkeit, Transparenz, Interpretierbarkeit
• Regulatorische Anforderungen (z. B. EU AI Act)
• Typen erklärbarer Systeme: intrinsisch vs. post-hoc

MODUL 02: METHODEN DER MODELLINTERPRETATION

• Modellagnostische vs. modellinterne Verfahren
• Globale vs. lokale Erklärbarkeit
• Feature Importance (Permutation, Gain)
• Partial Dependence Plots (PDP) und ALE-Plots
• Counterfactual Explanations und Kontrastive Erklärungen
• Surrogatmodelle (z. B. Entscheidungsbäume zur Vereinfachung komplexer Modelle)
• Visualisierungsstrategien und Interpretationshilfen

• MODUL 03: PRAKTISCHE EINFÜHRUNG: SHAP, LIME & CO.
• Theorie und Anwendungsbereiche von LIME
• SHAP-Werte und Shapley-Theorie
• Vergleich SHAP vs. LIME vs. Permutation Importance
• Implementierung und Visualisierung in Python
• Interpretation von Ergebnissen und typische Stolperfallen

MODUL 04: USE CASES UND BRANCHENBEISPIELE

• Erklärbarkeit in der Industrie (z. B. Qualitätssicherung, Wartung)
• XAI im Finanzsektor und Gesundheitswesen
• Erfahrungsberichte aus realen Projekten
• Diskussion: Vertrauen und Transparenz als Wettbewerbsvorteil

MODUL 05: GRENZEN, HERAUSFORDERUNGEN UND AUSBLICK

• Black Box vs. White Box Trade-offs
• Bias und Fairness im Kontext von XAI
• Verständnis von Unsicherheit und Vertrauensintervallen
• Zukunftsperspektiven: Causal XAI, Neuro-Symbolic AI
• Abschließende Reflexion und Diskussion