Encoder

Begriff

Teil eines neuronalen Netzes, der Eingaben in eine interne Repräsentation umwandelt.

Encoder: Verstehen statt Generieren

Der Encoder ist der Teil eines neuronalen Netzes, der Input verarbeitet und in eine interne Repräsentation umwandelt.

Encoder vs. Decoder

  • Encoder: Input → interne Darstellung (Verstehen)
  • Decoder: Interne Darstellung → Output (Generieren)

Encoder-only Modelle

BERT ist encoder-only – gut für Klassifikation und Extraktion, nicht für Textgenerierung.

Decoder-only Modelle

GPT und Claude sind decoder-only – optimiert für Textgenerierung.

← Zurück zum Glossar