Ollama KI-Tageskurs inhouse: Sprachmodelle im eigenen Netz betreiben

Ollama im eigenen Netz: Sprachmodelle ohne Cloud betreiben — KI-Tageskurs inhouse.

MODUL 01: OLLAMA EINORDNEN UND EINRICHTEN

• Installation unter Windows, macOS und Linux, auch ohne Grafikkarte
• Welche Modelle auf welcher Hardware sinnvoll laufen
• Was die Modellgrößen 3B, 8B und 14B im Alltag wirklich leisten
• Einordnung im KI-Werkzeugkasten: Sprachmodelle im eigenen Haus statt in der Cloud

MODUL 02: DIE OBERFLÄCHE SICHER BEDIENEN

• Modelle laden, wechseln und wieder entfernen
• Kontextlänge, Temperatur und Systemprompt gezielt setzen
• Die HTTP-Schnittstelle als Anschluss für eigene Anwendungen
• Übung: die ersten eigenen Schritte am Rechner

MODUL 03: DER ERSTE ECHTE VORGANG

• Ein eigener Anwendungsfall aus dem Haus wird lokal umgesetzt
• Antwortqualität gegen ein Cloudmodell gehalten und ehrlich bewertet
• Geschwindigkeit messen und die Hardware richtig dimensionieren
• Übung: ein mitgebrachter Fall wird umgesetzt

MODUL 04: QUALITÄT, KI-RECHT UND KOSTEN

• Warum lokal betriebene Modelle die Datenschutzfrage entschärfen
• Lizenzen der Modelle lesen: nicht jedes freie Modell ist gewerblich frei
• KI-Verordnung, Datenschutz und Mitbestimmung im Betrieb
• Was der Betrieb monatlich zahlt und wie er wieder aussteigt

MODUL 05: EINFÜHRUNG IM BETRIEB

• Wer im Haus die Verantwortung übernimmt
• Vorlagen und Konventionen für das Team sichern
• Woran Sie merken, dass ein KI-Anwendungsfall nicht trägt
• Nächster Schritt mit Aufwandsschätzung