Context Engineering
RAGContext Engineering ist die Disziplin, den richtigen Informationskontext zur richtigen Zeit ins Kontextfenster eines Sprachmodells zu bringen — präziser als reines Prompt Engineering.
Was ist Context Engineering?
Sprachmodelle können nur auf Informationen reagieren, die sich in ihrem Kontextfenster befinden — alles außerhalb ist für das Modell unsichtbar. Context Engineering ist die Kunst und Wissenschaft, dieses Fenster optimal zu befüllen: Welche Dokumente, welche Gesprächshistorie, welche Systemanweisungen, welche Werkzeugergebnisse werden in welcher Reihenfolge und Formatierung übergeben?
Der Begriff wurde 2025 geprägt, um die Grenzen von reinem Prompt Engineering zu beschreiben. Während Prompt Engineering sich primär auf die Formulierung von Anweisungen konzentriert, umfasst Context Engineering das gesamte Informationsmanagement: Retrieval-Strategie, Komprimierung langer Verläufe, Priorisierung relevanter Fakten und die strukturierte Übergabe externer Daten.
Dimensionen des Context Engineerings
Gutes Context Engineering berücksichtigt mehrere Ebenen:
- Retrieval-Qualität: Nur wirklich relevante Chunks ins Kontextfenster — nicht mehr als nötig.
- Informationsreihenfolge: LLMs tendieren dazu, Informationen am Anfang und Ende des Kontexts besser zu gewichten (Lost-in-the-Middle-Effekt).
- Kontext-Komprimierung: Lange Gesprächsverläufe werden zusammengefasst, damit Token-Budget für relevante neue Inhalte bleibt.
- Strukturierte Formatierung: Klare Trennungen zwischen System-Prompt, abgerufenen Dokumenten und Nutzeranfrage verbessern die Modellleistung messbar.
- Werkzeugergebnisse: Ausgaben externer APIs oder Berechnungen werden kontextgerecht aufbereitet, nicht roh übergeben.
Lost-in-the-Middle-Effekt
Studien zeigen, dass LLMs Informationen in der Mitte eines langen Kontexts schlechter verarbeiten als am Anfang oder Ende. Relevante Fakten sollten daher bewusst an prominente Positionen im Kontext platziert werden.
Relevanz für den Mittelstand
Unternehmen, die RAG-Systeme oder KI-Assistenten betreiben, investieren oft viel in die Datenaufbereitung, vernachlässigen aber, wie der Kontext ans Modell übergeben wird. Gezieltes Context Engineering — strukturierte Prompts, begrenzte aber relevante Retrieval-Ergebnisse, klare Trennung von Rollenanweisungen und Fakten — verbessert die Antwortqualität deutlich, ohne zusätzliche Infrastrukturkosten zu verursachen.
← Zurück zum Glossar