Emergenz, Skalierungsgesetze und In-Context-Learning: die Wissenschaft hinter KI und LLMs

Emergenz, Skalierungsgesetze und In-Context-Learning: die Wissenschaft hinter KI und LLMs.

MODUL 01: SKALIERUNGSGESETZE

• Zusammenhang von Daten, Parametern und Rechenleistung
• Chinchilla und optimale Skalierung
• Was Skalierung vorhersagbar macht
• Live-Demo: mehr Rechenleistung, bessere Ergebnisse
• Ihre Ausgangslage: Warum werden Modelle immer größer?

MODUL 02: EMERGENTE FÄHIGKEITEN

• Was Emergenz bedeutet – und was nicht
• Beispiele und Kontroversen
• Messung und Metrik-Artefakte
• Übung: Sie hinterfragen eine Emergenz-Behauptung
• Der Aha-Moment: neue Fähigkeiten wie aus dem Nichts

MODUL 03: IN-CONTEXT LEARNING

• Lernen ohne Gewichtsänderung
• Few-Shot und Chain-of-Thought
• Übung: Sie beobachten In-Context-Effekte
• Der Aha-Moment: das Modell lernt im Prompt
• Was das für Prompting bedeutet

MODUL 04: EINORDNUNG

• Was wir (nicht) über LLMs wissen
• Forschungsfronten
• Konsequenzen für die Praxis
• Hype von Substanz trennen
• Souverän über LLMs urteilen

MODUL 05: AUSBLICK

• Wohin die Skalierung führt
• Fallstudie: eine Modellfähigkeit kritisch prüfen
• Chancen und Risiken abwägen
• Am Puls der Forschung bleiben
• Ihr Fahrplan zum Verständnis der LLM-Wissenschaft