Zum Inhalt springen
Alle Systeme betriebsbereitKI-GlossarRegion Oberfrankenhostspezial.de
09571 873149 KI-Schnellcheck →
Start / Agenten / Agentic RAG

Agentic RAG: autonome Wissensagenten für Ihr Unternehmen.

Klassisches RAG sucht einmal und antwortet. Ein Wissensagent entscheidet selbst, welche Quellen er durchsucht, recherchiert mehrstufig, stellt Rückfragen und prüft seine Antworten — auf Ihrer eigenen Wissensbasis, vollständig On-Premise.

mehrstufig · mit Quellen · 100 % On-Premise
FAKTEN
MehrstufigRecherchiert iterativ statt einmal
Mit QuellenJede Antwort belegt
100 % On-PremiseOhne Cloud, ohne Datenabfluss
Rückfrage statt RatenBei Mehrdeutigkeit fragt er nach
wissensagent · reasoning · 3 quellenBeispiel
EK
Welche Kündigungsfrist gilt aktuell im Rahmenvertrag mit Hartmann Logistik?
KI
6 Monate zum Jahresende. Der Rahmenvertrag nennt 3 Monate (§ 12), die Zusatzvereinbarung vom 02.05.2024 verlängert auf 6 Monate; letzte automatische Verlängerung am 01.01.2026. Nächster Kündigungstermin: 30.06.2026.Rahmenvertrag_Hartmann.pdf § 12 · Zusatzvereinbarung_2024-05.pdf · Vertragsregister
plan frage in 3 teilfragen zerlegtsuche vektor-db → volltext → vertragsregisterprüfung zusatzvereinbarung überschreibt § 12 — belegt
recherchemehrstufig · 3 abrufe
quellenfundstelle je aussage
egress0 byte — kein cloud-call
rechtenur freigegebene quellen
modell lokal · index im eigenen netz
ki-spezial@agent:~$ tools listvektor-suche bge-m3volltext opensearchsql erp read-onlydms mcprechner pythonrückfrage an nutzer
Eigene Daten bleiben im Haus Betrieb On-Premise Antworten quellenbelegt Halluzinationen deutlich reduziert
AUF EINEN BLICK

Das Wichtigste auf einen Blick

Geeignet für
Unternehmen, deren Fachfragen sich nicht mit einer einzigen Textstelle beantworten lassen — Verträge, technische Dokumentation, Ausschreibungen, verteilte Wissensquellen
Ausgangssituation
Klassisches RAG sucht genau einmal, stellt keine Rückfrage und prüft seine Antwort nicht — bei mehrstufigen Fragen übersieht es Zusammenhänge
Wir übernehmen
Erschließung der Wissensquellen, Indexierung On-Premise, Konfiguration von Reasoning-Modell und Werkzeugen, Test mit Fachfragen, Betrieb und Pflege
Ihr Ergebnis
Ein Wissensagent, der mehrstufig recherchiert, bei Unklarheit nachfragt und jede Aussage mit Fundstelle belegt
Datenhaltung
Sprachmodell, Vektordatenbank, Index und Originaldokumente bleiben vollständig in Ihrem Netz — keine Übermittlung an eine Cloud
Hardware
In vielen Fällen genügt ein einzelner GPU-Server für Modell und Vektordatenbank; Reserve für Spitzenlasten wird eingeplant, weil der Agent mehrere Modellaufrufe je Frage braucht
Qualitätssicherung
Test gegen echte Fachfragen aus Ihrem Haus vor dem Produktivstart; Wiederholung bei Modell- und Wissensänderungen
Erster Schritt
Nennen Sie uns die Quellen, die Sie erschließen wollen, und drei Fragen, die heute lange Suche kosten
Wissensagent besprechen → 09571 873149 Ihr Ansprechpartner: Sales-Team ki·spezial
/01 — 06Von RAG zu Agentic RAG

Eine Suche reicht für ernste Fragen selten aus.

$ diff rag agentic-rag
Klassisches RAG nimmt Ihre Frage, führt einmal eine semantische Suche in der Wissensbasis aus und reicht die Treffer an das Sprachmodell weiter. Das funktioniert für klare Nachschlagefragen. Sobald eine Frage über mehrere Dokumente reicht, unklar formuliert ist oder eine Berechnung verlangt, stößt der einmalige Abruf an seine Grenzen: keine Rückfrage, keine zweite Suche, keine Prüfung. Agentic RAG setzt hier an: Ein Reasoning-Modell übernimmt die Rolle eines Rechercheurs — plant, durchsucht Quellen mehrstufig, kombiniert Werkzeuge, fragt bei Bedarf nach und prüft seine Belege, bevor es antwortet.
klassisches rag

Ein Abruf, eine Antwort

  • Suchengenau einmal
  • Rückfragekeine
  • Selbstprüfungkeine
  • Quelleneine
agentic rag

Ein Rechercheprozess mit Beleg

  • Suchenmehrstufig
  • Rückfragebei Unklarheit
  • Selbstprüfungprüft eigene Belege
  • Quellenmehrere + Werkzeuge
/02 — 06Direktvergleich

Klassisches RAG gegen Agentic RAG.

$ compare --kriterien 6
Beide bauen auf Ihrer Wissensbasis auf. Der Unterschied liegt darin, wie selbstständig recherchiert, geprüft und kombiniert wird.
KriteriumKlassisches RAGAgentic RAG (Wissensagent)
Abrufstrategie◑eine feste Suche je Frage, fest verdrahtet✓Agent entscheidet selbst, ob, wann und wie er sucht
Mehrstufige Recherche✕ein einziger Abrufschritt✓zerlegt komplexe Fragen, recherchiert iterativ
Rückfragen✕keine, antwortet auch bei unklarer Anfrage✓stellt bei Mehrdeutigkeit gezielt eine Rückfrage
Mehrere Quellen & Werkzeuge◑in der Regel eine Vektorquelle✓Vektor-, Volltext-, Datenbank- und Tool-Zugriffe kombiniert
Selbstprüfung✕keine Kontrolle der eigenen Antwort✓prüft Belege, erkennt Lücken, recherchiert nach
Geeignet für◑klare Nachschlagefragen mit einer Fundstelle✓komplexe, mehrstufige Fragen über viele Quellen
/03 — 06Fähigkeiten

Was ein Wissensagent kann.

$ agent --capabilities
Sechs Eigenschaften, die einen autonomen Wissensagenten von einem einfachen Frage-Antwort-System unterscheiden.

Eigenständige Quellenwahl

Der Agent entscheidet selbst, ob und wo er suchen muss. Für eine einfache Definition antwortet er direkt, für eine Faktenfrage greift er gezielt auf die passende Quelle in Ihrer Vektordatenbank zu.

Mehrstufige Recherche

Komplexe Fragen zerlegt der Agent in Teilfragen und arbeitet sie nacheinander ab — bei einer Vertragsrecherche erst die Kündigungsfrist, dann ergänzende Zusatzvereinbarungen, dann das Datum der letzten Verlängerung.

Rückfragen bei Unklarheit

Ist eine Frage mehrdeutig oder fehlt eine Angabe, fragt der Agent nach, statt zu raten. Gibt es mehrere Kunden namens Müller, fragt er nach der Kundennummer — das verhindert plausibel klingende, aber falsche Antworten.

Werkzeugnutzung

Neben der Suche ruft der Agent definierte Werkzeuge auf: Berechnungen ausführen, strukturierte Datenbanken abfragen oder über interne Schnittstellen aktuelle Stammdaten nachschlagen — siehe MCP-Integration.

Selbstprüfung & Quellen

Der Agent gleicht Zwischenergebnisse ab, erkennt fehlende Belege und liefert die Antwort mit Verweis auf die Fundstellen. Jede Aussage bleibt nachvollziehbar, das Risiko von Halluzinationen sinkt deutlich.

On-Premise-Wissensbasis

Der gesamte Agent läuft auf Ihrer Infrastruktur. Sprachmodell, Index und Originaldokumente bleiben im Haus — ohne Datenabfluss und DSGVO-konform, wie in unserer On-Premise-Lösung.

/04 — 06Vorgehen

So bauen wir Ihren Wissensagenten.

$ onboarding --phasen 5
Von der Erschließung Ihrer Wissensquellen bis zum gepflegten Produktivbetrieb — fünf nachvollziehbare Schritte.
1Start

Wissensquellen erschließen

Wir sichten Dokumente, Datenbanken und Systeme, klären Zugriffsrechte und bereiten die Inhalte für die Indexierung auf.

2On-Premise

Indexierung & Vektorbasis

Die Inhalte werden in Embeddings überführt und in einer lokalen Vektordatenbank indexiert. Originaldaten bleiben im Haus.

3Konfiguration

Agent & Werkzeuge

Wir konfigurieren das Reasoning-Modell, definieren Werkzeuge und Quellen und legen Recherchestrategie sowie Rechte fest.

4vor Go-Live

Mit Fachfragen testen

Der Agent wird gegen echte Fachfragen aus Ihrem Haus getestet: Trefferqualität, Quellenbelege, Verhalten bei Lücken.

5laufend

Produktiv & gepflegt

Nach Freigabe geht der Agent produktiv. Indexierung, Monitoring und Modellpflege übernehmen wir über die KI-Administration.

/05 — 06In der Praxis

Wofür sich ein Wissensagent besonders lohnt.

$ ls /opt/use-cases/
Mehrstufige Vertragsrecherche: Ein Wissensagent sucht den Rahmenvertrag, prüft Zusatzvereinbarungen, die eine Frist ändern, und liefert die belegte Kündigungsfrist samt Fundstelle — statt nur die erstbeste Textstelle. Mit Wissen sichern bewahren Sie das Erfahrungswissen Ihrer Mitarbeiter; ein Wissensagent macht es aktiv durchsuchbar.

Technische Doku

fehlersuche über viele handbücher

Verträge & Compliance

fristen · klauseln · nachweise

Angebote & Ausschreibungen

prüfung gegen anforderungen

Verteilte Wissensquellen

wiki · dms · dateiserver · erp

Wissensagenten lassen sich in größere Agentic Workflows und Multi-Agent-Systeme einbinden — dort liefern sie die belegte Faktenbasis für andere Agenten.

/06 — 06Häufige Fragen

Was zu Agentic RAG gefragt wird.

$ man agentic-rag --faq
01Was ist Agentic RAG und worin unterscheidet es sich von klassischem RAG?+
Klassisches RAG führt pro Frage genau eine Suche in der Wissensbasis durch und reicht die Treffer an das Sprachmodell weiter. Agentic RAG stellt dem Sprachmodell einen autonomen Agenten zur Seite: Er entscheidet selbst, ob, wann und in welchen Quellen er sucht, formuliert Suchanfragen um, recherchiert mehrstufig, kombiniert mehrere Werkzeuge und prüft seine Zwischenergebnisse, bevor er antwortet. Aus einem einmaligen Abruf wird ein eigenständiger Rechercheprozess.
02Bleiben unsere Dokumente bei Agentic RAG im Haus?+
Ja. Wir betreiben Agentic RAG vollständig On-Premise auf Ihrer Infrastruktur. Sprachmodell, Vektordatenbank, Index und Originaldokumente bleiben in Ihrem Netzwerk. Weder Fragen noch Inhalte gehen an eine externe Cloud — DSGVO-konform und auch für vertrauliche oder regulierte Daten geeignet.
03Reduziert Agentic RAG Halluzinationen?+
Deutlich. Weil der Agent seine Antwort aus tatsächlich abgerufenen Belegstellen aufbaut und seine Zwischenergebnisse selbst prüft, sinkt das Risiko erfundener Aussagen erheblich. Findet er keine ausreichende Grundlage, recherchiert er nach, stellt eine Rückfrage oder weist offen darauf hin, dass die Information nicht belegt ist — statt zu raten. Jede Aussage lässt sich über die Quellenangabe nachvollziehen.
04Was bedeutet mehrstufige Recherche konkret?+
Bei einer komplexen Frage zerlegt der Agent diese in Teilfragen und beantwortet sie nacheinander. Beispiel Vertragsrecherche: Zuerst sucht er den Rahmenvertrag und liest die Kündigungsfrist, dann sucht er gezielt nach Zusatzvereinbarungen, die diese Frist ändern, prüft das Datum der letzten Verlängerung und fasst erst dann ein belegtes Ergebnis zusammen. Klassisches RAG hätte nur einmal gesucht und die Zusammenhänge womöglich übersehen.
05Welche Quellen und Werkzeuge kann ein Wissensagent nutzen?+
Mehrere parallel: die Vektordatenbank für semantische Suche, klassische Volltextsuche, strukturierte Datenbanken sowie definierte interne Schnittstellen und Werkzeuge — etwa zur Berechnung, zum Nachschlagen aktueller Stammdaten oder zum Abruf aus einem Dokumentenmanagementsystem, häufig über eine MCP-Integration. Welche Werkzeuge zur Verfügung stehen, legen wir gemeinsam fest und grenzen die Rechte ab.
06Stellt der Agent Rückfragen, wenn eine Anfrage unklar ist?+
Ja. Erkennt der Agent, dass eine Frage mehrdeutig ist oder ihm eine wesentliche Angabe fehlt, stellt er gezielt eine Rückfrage, anstatt eine Annahme zu treffen. Fragt jemand nach den Konditionen für Kunde Müller und existieren mehrere, fragt der Agent nach der Kundennummer. Das verhindert plausibel klingende, aber falsche Antworten.
07Für welche Anwendungsfälle eignet sich Agentic RAG besonders?+
Für Fragen, die nicht mit einer einzigen Textstelle zu beantworten sind: mehrstufige Vertrags- und Compliance-Recherche, technische Dokumentation und Fehlersuche über viele Handbücher hinweg, Angebots- und Ausschreibungsprüfung oder die Auswertung verteilter interner Wissensquellen. Für einfache, klar umrissene Nachschlagefragen genügt oft klassisches RAG.
08Welche Hardware wird für einen On-Premise-Wissensagenten benötigt?+
Der Bedarf richtet sich nach Modellgröße, Dokumentenmenge und Nutzerzahl. In vielen Fällen genügt ein einzelner GPU-Server für Sprachmodell und Vektordatenbank. Da Agentic RAG mehrere Modellaufrufe pro Frage benötigt, planen wir Reserve für Spitzenlasten ein. Den konkreten Zuschnitt ermitteln wir in der On-Premise-Beratung.
09Wie aktuell sind die Antworten, wenn neue Dokumente hinzukommen?+
Neue oder geänderte Dokumente werden indexiert und stehen dem Agenten danach unmittelbar zur Verfügung. Den Indexierungsprozess automatisieren wir so, dass neue Verträge, Handbücher oder Richtlinien regelmäßig oder ereignisgesteuert eingelesen werden. Auf Wunsch übernehmen wir die laufende Pflege im Rahmen der KI-Administration.
10Wie prüfen wir die Qualität eines Wissensagenten vor dem Produktivstart?+
Vor dem Produktivstart testen wir den Agenten gegen einen Satz echter Fachfragen aus Ihrem Haus und bewerten Trefferqualität, Quellenbelege und Verhalten bei Lücken. Erst wenn die Antworten verlässlich belegt sind, gehen wir produktiv. Damit Verhalten und Rechte kontrolliert bleiben, sorgt eine saubere Agent-Governance. Die Evaluierung wiederholen wir bei Modell- und Wissensänderungen.
MEHRVerwandte Lösungen

Das könnte Sie auch interessieren.

$ related --show 6
// nächster schritt

Ein Wissensagent auf Ihrer eigenen Wissensbasis.

In einem kostenlosen Erstgespräch klären wir, welche Quellen Sie erschließen möchten und wie ein Agentic-RAG-System bei Ihnen On-Premise aussehen kann — unverbindlich und konkret.

Modell, Index und Dokumente bleiben in Ihrem Netz

$ agentic-rag --erstgespraech
Wissensagent anfragen → 09571 873149 Termin vereinbaren
30 Minuten, unverbindlich und direkt mit einem technischen Ansprechpartner. Drei typische Fachfragen aus Ihrem Alltag genügen als Vorbereitung.