Encoder
BegriffTeil eines neuronalen Netzes, der Eingaben in eine interne Repräsentation umwandelt.
Encoder: Verstehen statt Generieren
Der Encoder ist der Teil eines neuronalen Netzes, der Input verarbeitet und in eine interne Repräsentation umwandelt.
Encoder vs. Decoder
- Encoder: Input → interne Darstellung (Verstehen)
- Decoder: Interne Darstellung → Output (Generieren)
Encoder-only Modelle
BERT ist encoder-only – gut für Klassifikation und Extraktion, nicht für Textgenerierung.
Decoder-only Modelle
GPT und Claude sind decoder-only – optimiert für Textgenerierung.
← Zurück zum Glossar