Sichere KI-Entwicklung: Supply-Chain-Risiken bei Modellen und Daten

Sichere KI-Entwicklung: Supply-Chain-Risiken bei Modellen und Daten.

MODUL 01: DIE KI-LIEFERKETTE

• Komponenten: Basismodelle, Datensätze, Bibliotheken, Plugins
• Angriffspunkte entlang der Kette
• Vorfälle: manipulierte Modelle und Pakete
• Warum das Vertrauen in ein Modell trügen kann
• Ihre Ausgangslage: Was steckt eigentlich in Ihren KI-Komponenten?

MODUL 02: MODELLE UND DATENSÄTZE PRÜFEN

• Herkunft und Integrität: Model Cards, Signaturen, Hashes
• Risiken serialisierter Modelle (Pickle) und sichere Formate
• Lizenz- und Compliance-Prüfung von Modellen
• Übung: Sie prüfen ein Modell auf Herkunft und Risiken
• Der Aha-Moment: das beliebte Modell mit versteckter Hintertür

MODUL 03: ABSICHERUNG DER PIPELINE

• Dependency- und Container-Scanning für ML
• SBOM/AI-BOM: Transparenz über Komponenten
• Übung: Sie auditieren ein Modell und seine Abhängigkeiten
• Sicherheit in die Pipeline einbauen statt anflanschen
• Slopsquatting und halluzinierte Pakete abfangen

MODUL 04: GOVERNANCE

• Freigabeprozess für externe Modelle und Datensätze
• Monitoring auf kompromittierte Komponenten
• Bezug zur KI-VO und zu Cyber-Resilienz-Anforderungen
• Verantwortung klar zuordnen
• Ihr Fahrplan zur sicheren KI-Lieferkette