Zum Inhalt springen
Alle Systeme betriebsbereitKI-GlossarRegion Oberfrankenhostspezial.de
09571 873149 KI-Schnellcheck →
Start / Leistungen / KI-Gateway

Eine Plattform für alle KI-Modelle – unter Ihrer Kontrolle.

Das KI-Gateway verbindet lokale Open-Source-Modelle und Cloud-APIs in einer einheitlichen Oberfläche. Ihre Mitarbeiter nutzen ein Interface, Sie behalten die Kontrolle über Kosten, Daten und Modellauswahl.

Demo anfragen → Funktionen ansehen
Routing · Auth · RAG · Logging · OpenAI-kompatible API
THEMEN
Das KonzeptLLM-Broker in drei Ebenen→ Was es leistetSechs Funktionen→ Welche ModelleSechs lokale, fünf Cloud-APIs→ Modelle im VergleichQualität, Speed, Preis→
FAKTEN
Lokale & Cloud-ModelleBeliebig viele, parallel
Volle DatenkontrolleSensible Anfragen bleiben lokal
Kosten-TransparenzJe Team und Abteilung
OpenAI-kompatible APIIntegrationen laufen weiter
ki-spezial@gateway:~$ gateway modelsllama 4 lokalmistral large 3 lokalqwen 3.5 lokaldeepseek r1 lokalgpt-5 cloudclaude 4 cloudgemini 3 cloud
Modelle lokal & Cloud Datenkontrolle sensible Anfragen lokal Kosten je Team transparent API OpenAI-kompatibel
AUF EINEN BLICK

Das Wichtigste auf einen Blick

Geeignet für
Unternehmen, in denen Teams verschiedene KI-Werkzeuge ohne zentrale Steuerung nutzen — und die Kosten, Datenflüsse und Modellauswahl wieder in die Hand nehmen wollen
Ausgangssituation
ChatGPT hier, Claude dort, dazu lokale Experimente: intransparente Kosten, Datenschutz-Risiken und Abhängigkeit von einzelnen Anbietern
Wir übernehmen
Gateway-Aufbau, Anbindung lokaler Modelle und Cloud-APIs, Routing-Regeln, Nutzerverwaltung, RAG-Anbindung Ihrer Dokumente — on-premise oder hybrid
Ihr Ergebnis
Eine Chat-Oberfläche und eine API für alle Teams — Modelle jederzeit austauschbar, sensible Anfragen automatisch lokal, Kosten je Abteilung sichtbar
Modelle
Lokal: Llama 4, Mistral Large 3, Qwen 3.5, DeepSeek R1 / V3.2, Gemma 4, Granite 4.0 · Cloud: GPT-5, Claude 4, Gemini 3, Grok 4, Nova 2.0 — eigene Modelle über die API-Schnittstelle
Betriebsmodell
On-Premise (Gateway und Modelle auf Ihrer Infrastruktur, offline-fähig) oder Hybrid (Gateway lokal, Cloud-APIs für spezielle Anforderungen)
Kostenbild
Cloud-APIs zwischen 0,32 $ und 10 $ je 1 Mio. Token (Stand April 2026); lokale Modelle ohne Kosten je Anfrage — das Routing entscheidet je Aufgabe
Erster Schritt
Eine Demo: Wir zeigen, wie das Gateway mit Ihren Modellen, Rollen und Dokumenten in Ihrem Unternehmen arbeiten würde
Demo anfragen → 09571 873149 Ihr Ansprechpartner: Sales-Team ki·spezial
/01 — 07Das Konzept

LLM-Broker für Unternehmen.

$ gateway status --routes
In vielen Unternehmen nutzen Mitarbeiter verschiedene KI-Tools ohne zentrale Steuerung. ChatGPT hier, Claude dort, dazu lokale Experimente. Das Ergebnis: intransparente Kosten, Datenschutz-Risiken und Abhängigkeit von einzelnen Anbietern. Das KI-Gateway ist die zentrale Schnittstelle zwischen Ihren Nutzern und beliebigen KI-Modellen — lokal oder in der Cloud.

Eine Oberfläche

einheitlicher chat für alle teams

Modelle tauschbar

wechsel ohne umstellung

Sensibles bleibt lokal

automatisch geroutet

Kosten im Blick

nutzung je team und modell
BenutzerEbene 3
Web & Mobileeine chat-oberfläche für alle teams
APIopenai-format · bestehende integrationen
GatewayEbene 2
Routing & Authmodell je aufgabe · rollen · berechtigungen
RAG & Loggingeigene dokumente · chat-historie · audit
ModelleEbene 1
Lokalllama · deepseek · mistral · qwen · gemma
Cloudgpt-5 · claude · gemini · grok · nova
Gateway — Routing, Rechte, Wissen, Nachweis Modelle — lokal oder per Cloud-API, jederzeit austauschbar
/02 — 07Funktionen

Was das KI-Gateway leistet.

$ gateway features --list
Sechs Funktionen, die ein einzelnes Chat-Werkzeug nicht hat — und die den Unterschied zwischen „KI ausprobieren" und „KI betreiben" ausmachen.

Intelligentes Routing

Anfragen automatisch zum passenden Modell leiten — nach Kosten, Performance oder Datenschutz.

RAG-Integration

Eigene Dokumente und Datenquellen anbinden. Antworten basieren auf Ihrem Unternehmenswissen — RAG mit Quelle je Antwort.

Benutzerverwaltung

Rollen und Berechtigungen. Sie definieren, wer welche Modelle und Funktionen nutzen darf.

Nutzungs-Analytics

Dashboards für Kosten und Nutzung. Transparenz über alle Teams und Abteilungen.

Chat-Historie

Alle Konversationen durchsuchbar archiviert. Wissen bleibt erhalten, Nutzung nachweisbar.

API-Kompatibilität

OpenAI-kompatible API. Bestehende Integrationen funktionieren ohne Anpassung.

/03 — 07Modelle

Unterstützte KI-Modelle.

$ gateway models --all
Lokale Open-Source-Modelle und Cloud-APIs — Sie entscheiden, was zum Einsatz kommt. Mehrere Modelle laufen parallel, neue lassen sich jederzeit hinzufügen.
lokal

Lokale Modelleopen weights · auf ihrer hardware

  • Llama 4Meta · Scout & Maverick
  • Mistral Large 3Mistral AI
  • Qwen 3.5Alibaba
  • DeepSeek R1 / V3.2DeepSeek · Reasoning
  • Gemma 4Google · bis 31B
  • Granite 4.0IBM · Enterprise
cloud

Cloud-APIsper routing-regel · nur ohne sensible daten

  • GPT-5 / o3OpenAI
  • Claude 4 Opus / SonnetAnthropic
  • Gemini 3 Pro / FlashGoogle
  • Grok 4xAI
  • Nova 2.0Amazon
/04 — 07Analyse

Modelle im Vergleich.

$ bench --quality --speed --price
Qualität, Geschwindigkeit und Kosten — die wichtigsten Kennzahlen auf einen Blick. Der Qualitätsindex stammt von Artificial Analysis, die Preise gelten für den API-Zugang.
ModellQualitätsindexSpeedPreis
GPT-5OpenAI · Cloud5783 Token/s$5,63 je 1M Token
Claude 4 OpusAnthropic · Cloud5345 Token/s$10,00 je 1M Token
Claude 4 SonnetAnthropic · Cloud5260 Token/s$6,00 je 1M Token
Grok 4xAI · Cloud49163 Token/s$3,00 je 1M Token
Gemini 3 FlashGoogle · Cloud46158 Token/s$1,13 je 1M Token
DeepSeek V3.2DeepSeek · Open Source4247 Token/s$0,32 je 1M Token
Mistral Large 3Mistral · Open Source2340 Token/s$0,75 je 1M Token
Llama 4 MaverickMeta · Open Source18111 Token/s$0,49 je 1M Token
Cloud-API Open Source (lokal verfügbar)  ·  Quelle: Artificial Analysis · Preise für API-Zugang · Stand April 2026
/05 — 07Erweiterungen

Funktional erweiterbar.

$ gateway plugins --available
Das Gateway wächst mit Ihren Anforderungen. Sechs Erweiterungen, die sich zuschalten lassen, ohne die Oberfläche oder die API zu ändern.

Bildgenerierung

dall-e · stable diffusion

Web-Suche

für aktuelle informationen

Code-Interpreter

python · javascript

Speech-to-Text

whisper

E-Mail & Kalender

anbindung

Datenbank-Anbindung

sql
/06 — 07Vergleich

KI-Gateway gegen die Alternativen.

$ diff gateway cloud-anbieter einzeltools
Fünf Eigenschaften, an denen sich die Werkzeuge unterscheiden. Das Chat-Angebot eines einzelnen Cloud-Anbieters ist bequem, bindet aber an dessen Modelle; einzelne Tools lassen sich kaum zentral steuern.
EigenschaftKI-GatewayEinzelner Cloud-AnbieterEinzelne Tools
Mehrere Modelle✓beliebig viele✕nur dessen Modelle◑je nach Tool
Lokale Modelle✓vollständig✕nicht vorgesehen◑teilweise
Daten im Unternehmen✓volle Kontrolle✕Server des Anbieters◑unterschiedlich
Eigene Dokumente (RAG)✓integriert◑eingeschränkt✕selten
Vendor Lock-in✓keiner✕an den Anbieter✕je Anbieter
/07 — 07Betrieb

Flexible Bereitstellung.

$ gateway deploy --mode
Zwei Betriebsmodelle. Im hybriden Fall entscheidet das Routing je Anfrage, ob ein lokales Modell antwortet oder eine Cloud-API — nach Regeln, die Sie festlegen.
on-premise

Gateway und Modelle auf Ihrer Infrastrukturmaximale kontrolle

  • Datensouveränitätvollständig
  • Laufende Cloud-Kostenkeine
  • Offline-Betriebmöglich
hybrid

Gateway lokal, Cloud-APIs bei Bedarfdas beste aus beiden welten

  • Sensible Datenlokal
  • Cloud-Modellebei Bedarf
  • Routingflexibel, regelbasiert
FAQHäufige Fragen

Was vor der Entscheidung gefragt wird.

$ man ki-gateway --faq
01Was ist ein KI-Gateway?+
Ein KI-Gateway ist eine zentrale Plattform, über die Sie verschiedene KI-Modelle einheitlich nutzen und verwalten können. Es dient als Schnittstelle zwischen Ihren Anwendern und den KI-Modellen — sowohl lokale Open-Source-Modelle als auch Cloud-APIs. Sie erhalten eine einheitliche Benutzeroberfläche, zentrale Nutzerverwaltung und volle Kontrolle über Kosten und Datenflüsse.
02Welche KI-Modelle werden unterstützt?+
Lokale Open-Source-Modelle wie Llama 4, Mistral, Qwen, DeepSeek und Gemma sowie Cloud-APIs wie OpenAI GPT-5, Anthropic Claude 4, Google Gemini 3, xAI Grok 4 und Amazon Nova. Sie können mehrere Modelle parallel betreiben und je nach Aufgabe das passende Modell auswählen. Neue Modelle lassen sich jederzeit hinzufügen.
03Kann ich eigene Modelle einbinden?+
Ja. Das umfasst selbst trainierte oder feingetunte Modelle ebenso wie spezialisierte Open-Source-Modelle für bestimmte Anwendungsfälle. Das Gateway bietet eine standardisierte API-Schnittstelle, über die beliebige Modelle angebunden werden können.
04Wie unterscheidet sich das Gateway von ChatGPT?+
Das KI-Gateway ist keine einzelne KI, sondern eine Verwaltungsplattform für mehrere Modelle. Sie sind nicht an einen Anbieter gebunden, behalten die volle Datenkontrolle und können zwischen Modellen wechseln. Dazu kommen Nutzerverwaltung, Kostenkontrolle und Audit-Logging, die ein einzelnes Chat-Werkzeug nicht bietet.
05Ist das KI-Gateway DSGVO-konform?+
Ja. Mit lokalen Modellen betrieben, werden keine Daten an externe Anbieter übermittelt. Bei Cloud-APIs steuern Sie über das Gateway gezielt, welche Daten an welche Modelle gesendet werden. So behalten Sie die Kontrolle über Ihre Datenflüsse und können Compliance-Anforderungen nachweisbar erfüllen.
MEHRVerwandte Lösungen

Das könnte Sie auch interessieren.

$ related --show 4
ki-lösung

KI On-Premise

Large Language Models auf eigenen GPU-Servern — die lokale Seite des Gateways: Hardware-Sizing, Kostenvergleich, Projektablauf.

 plattform

KIS:UI — Enterprise AI Chat

Mandantenfähige KI-Plattform mit Multi-Provider-Router, RAG-Wissensdatenbanken, LDAP/AD und Audit.

 use case

ChatGPT-Alternative für Unternehmen

Dieselbe Funktionalität wie ChatGPT — lokal, mit voller Datenkontrolle, ohne Daten an OpenAI.

 ki-lösung

KI-System

Komplette KI-Systeme für Unternehmen: von der Planung über die Implementierung bis zum produktiven Betrieb.
// nächster schritt

KI-Gateway im Einsatz erleben.

Wir zeigen Ihnen in einer Demo, wie das Gateway in Ihrem Unternehmen funktionieren würde — mit Ihren Modellen, Ihren Rollen und Ihren Dokumenten.

Lokale Modelle und Cloud-APIs · eine Oberfläche · eine API

$ ki-gateway --demo
Demo anfragen → 09571 873149 Termin vereinbaren
30 Minuten, unverbindlich und direkt mit einem technischen Ansprechpartner. Welche KI-Werkzeuge heute im Haus genutzt werden, genügt als Vorbereitung.