Few-Shot Learning

Begriff

Lernen aus wenigen Beispielen. Dem Modell werden im Prompt 2-5 Beispiele gezeigt, dann folgt die eigentliche Aufgabe.

Was ist Few-Shot Learning?

Few-Shot Learning ist eine Methode, bei der einem KI-Modell wenige Beispiele (typischerweise 2 bis 10) im Prompt gezeigt werden, bevor die eigentliche Aufgabe gestellt wird. Das Modell leitet aus diesen Beispielen das gewünschte Muster ab und wendet es auf neue Eingaben an, ohne dafür neu trainiert zu werden. Der Begriff stammt aus dem breiteren maschinellen Lernen, hat aber im Kontext großer Sprachmodelle (LLMs) eine besonders praktische Bedeutung erlangt.

Few-Shot Learning steht zwischen Zero-Shot Learning (keine Beispiele, nur eine Aufgabenbeschreibung) und vollständigem Fine-Tuning (Training auf Hunderten bis Tausenden von Beispielen). Es bietet einen pragmatischen Mittelweg: mehr Kontrolle über die Ausgabe als Zero-Shot, aber ohne den Aufwand und die Kosten eines Fine-Tunings.

Wie funktioniert Few-Shot Learning?

Bei LLMs werden die Beispiele direkt in den Prompt geschrieben. Das Modell erkennt das Muster und wendet es auf die letzte, unvollständige Eingabe an:

Übersetze ins Formelle:
"Hey, was geht?" → "Guten Tag, wie kann ich Ihnen helfen?"
"Läuft bei dir?" → "Geht es Ihnen gut?"
"Alles klar soweit?" → [Modell ergänzt]

Die Qualität der Ergebnisse hängt stark von der Auswahl und Formulierung der Beispiele ab. Gute Few-Shot-Beispiele sind repräsentativ für die Aufgabe, decken verschiedene Varianten ab und zeigen das gewünschte Ausgabeformat klar. In der Praxis hat sich gezeigt, dass bereits 3 bis 5 gut gewählte Beispiele die Qualität gegenüber Zero-Shot erheblich verbessern können, besonders bei Aufgaben wie Formatierung, Klassifikation, Datenextraktion oder Stilanpassung.

Ein wichtiger technischer Aspekt: Few-Shot-Beispiele verbrauchen Tokens im Kontextfenster des Modells. Bei vielen oder langen Beispielen bleibt weniger Platz für die eigentliche Eingabe. Hier gilt es, die richtige Balance zwischen Beispielqualität und Kontextlänge zu finden.

Warum ist Few-Shot Learning wichtig?

Für Unternehmen ist Few-Shot Learning eine der kosteneffizientesten Methoden, KI-Ausgaben an eigene Anforderungen anzupassen. Statt ein Modell aufwändig zu trainieren, genügen wenige Beispiele im Prompt, um das Ausgabeformat, den Tonfall oder die Klassifikationslogik festzulegen. Das macht Few-Shot zur idealen Methode für Prototypen, sich häufig ändernde Anforderungen und Szenarien, in denen nur wenige Referenzdaten vorhanden sind.

Few-Shot Learning

Was ist Few-Shot Learning?

Wie funktioniert Few-Shot Learning?

Warum ist Few-Shot Learning wichtig?

Verwandte Begriffe