/01Was ist Fine-Tuning?
Fine-Tuning ist das Nachtrainieren eines vortrainierten KI-Modells auf spezifischen Daten. Dadurch spezialisiert sich das Modell auf bestimmte Aufgaben oder passt sich an einen gewünschten Stil an.
Wann ist Fine-Tuning sinnvoll?
- Fachsprache oder Terminologie, die das Basismodell nicht gut kennt
- Spezifischer Schreibstil oder Tonfall gewünscht
- Wiederkehrende Aufgaben mit klarem Format
- Bessere Performance bei Nischenthemen
Fine-Tuning vs. RAG
Oft wird beides verwechselt:
- Fine-Tuning: Verändert das Modell selbst, erfordert Trainingsdaten
- RAG: Gibt dem Modell externe Dokumente als Kontext, kein Training nötig
Für die meisten Unternehmens-Anwendungen ist RAG einfacher und flexibler. Fine-Tuning lohnt sich vor allem bei sehr spezifischen Anforderungen.
Der Prozess
- Trainingsdaten sammeln (Beispiel-Prompts und gewünschte Antworten)
- Daten aufbereiten (Format, Qualitätsprüfung)
- Modell trainieren (wenige Stunden bis Tage)
- Evaluieren und ggf. iterieren
/02Fine-Tuning: Modelle anpassen
Fine-Tuning trainiert ein vortrainiertes Modell auf spezifischen Daten weiter – es spezialisiert sich auf Ihre Aufgabe.
Wann Fine-Tuning?
- Spezifischer Stil oder Ton gewünscht
- Domain-spezifisches Wissen nötig
- Konsistente Formatierung wichtig
- RAG reicht nicht aus
Methoden
- Full Fine-Tuning: Alle Parameter anpassen
- LoRA: Nur kleine Adapter trainieren (effizienter)
- QLoRA: LoRA mit Quantisierung
Daten
Sie brauchen Beispiele im Format: Eingabe → gewünschte Ausgabe. Qualität ist wichtiger als Quantität.