Zum Inhalt springen
Alle Systeme betriebsbereitKI-GlossarRegion Oberfrankenhostspezial.de
09571 873149 KI-Schnellcheck →
Start / Leistungen / IT-Leiter-Checkliste

IT-Leiter-Checkliste: KI-Einführung vorbereiten.

Hardware, Netzwerk, Sicherheit, Integration — 20 Punkte, die vor der Implementierung geklärt sein sollten. Abhaken, was steht; der Rest ist die Gesprächsgrundlage.

20 Punkte · 4 Bereiche · Hardware-Richtwerte
RICHTWERTE
500–1.000 W je GPUAbwärme, die die Klimatisierung tragen muss
1.500–3.000 W je ServerTypischer KI-Server, USV einplanen
2–4 HE Rack-SpaceAlternativ Tower-Gehäuse
Mind. 1 Gbit/sBei vielen Nutzern 10 Gbit/s
ki-spezial · it-check · lokales modellBeispiel
IT
Unser Serverraum hat 16 A je Phase. Reicht das für einen KI-Server mit zwei RTX 4090?
KI
Rechnerisch ja: Zwei RTX 4090 liegen zusammen bei rund 900 W, das Gesamtsystem bei etwa 1.500 W — am unteren Rand der Richtwerte von 1.500–3.000 W. Eine 16-A-Phase trägt rund 3.600 W. Offen bleiben USV-Leistung und die Abwärme von 500–1.000 W je GPU für die Klimatisierung.Checkliste · Hardware & Infrastruktur · Punkt 1–2
Frage zur eigenen Infrastruktur stellen …egress 0 byte
checkliste20 punkte · 4 bereiche
richtwerte3 szenarien · 5 bis 100+ nutzer
speicherungnur im browser · nichts wird gesendet
zugriffldap/ad · sso · audit-log
prüfung vor der beschaffung · ergebnis gesprächsgrundlage
ki-spezial@ki-node:~$ grep '^##' checkliste.mdhardware & infrastruktur 4 punktenetzwerk 5 punktesicherheit & compliance 5 punkteintegration & betrieb 6 punkte
Punkte 20 in 4 Bereichen Abwärme 500–1.000 W je GPU Netz mind. 1 Gbit/s Ergebnis bleibt im Browser
AUF EINEN BLICK

Das Wichtigste auf einen Blick

Geeignet für
IT-Leiter und Administratoren, die ein lokales KI-System mit GPU-Server, Ollama und RAG vorbereiten — vor der ersten Bestellung
Ausgangssituation
Die Geschäftsführung will KI; Serverraum, Netz und Richtlinien sind dafür nie geplant worden, und niemand weiß, was fehlt
Die Liste deckt ab
20 Punkte in vier Bereichen: Hardware & Infrastruktur (4), Netzwerk (5), Sicherheit & Compliance (5), Integration & Betrieb (6)
Ihr Ergebnis
Ein abgehakter Stand, der zeigt, was vorhanden ist und was ergänzt werden muss — als Grundlage für Sizing und Angebot
Hardware-Richtwerte
1× RTX 4090 (24 GB) für 5–20 Nutzer, 2× RTX 4090 oder 1× A100 für 20–100, 2–4× A100 (80 GB) ab 100 Nutzern
Strom & Kühlung
1.500–3.000 W je KI-Server, 500–1.000 W Abwärme je GPU, 2–4 HE Rack-Space oder Tower-Gehäuse
Netzwerk
Eigenes VLAN, mindestens 1 Gbit/s, Ports 443 und 11434, interner DNS-Name, Reverse Proxy für TLS
Erster Schritt
Liste durchgehen, offene Punkte notieren — wir prüfen im Gespräch, was vorhanden ist und was ergänzt werden muss
Technisches Gespräch anfragen → 09571 873149 Ihr Ansprechpartner: Sales-Team ki·spezial
/01 — 06Hardware & Infrastruktur

Ob der Serverraum einen GPU-Server verträgt.

$ sensors && upsc ups@localhost

Fortschritt 0 / 20

Vier Punkte, die über Kühlung, Strom und Platz entscheiden. Ein GPU-Server ist kein Fileserver — wer hier spart, kauft Hardware, die gedrosselt läuft.

Serverraum mit ausreichend Kühlung

GPU-Server: ca. 500–1.000 W Abwärme pro GPU. Klimatisierung prüfen.

Stromversorgung geprüft

Typischer KI-Server: 1.500–3.000 W. USV vorhanden?

Rack-Space verfügbar

Standard: 2–4 HE. Alternativ: Tower-Gehäuse möglich.

Vorhandene Hardware geprüft

Evtl. Server mit NVIDIA-GPU (ab RTX 3090/4090, Tesla, A100) vorhanden?

/02 — 06Netzwerk

Ein eigenes Segment, ein Name, ein Port nach außen.

$ ss -tlnp | grep -E '443|11434'
Fünf Punkte vom VLAN bis zum Reverse Proxy. Das KI-System spricht mit Dokumentenquellen und Fachanwendungen — es gehört in ein eigenes Segment, nicht ins Client-Netz.

Netzwerksegment definiert

Empfehlung: Eigenes VLAN für die KI-Infrastruktur.

Bandbreite ausreichend

Mind. 1 Gbit/s, bei vielen Nutzern: 10 Gbit/s empfohlen.

Firewall-Regeln vorbereitet

Ports: 443 (HTTPS), 11434 (Ollama), ggf. weitere.

DNS-Eintrag geplant

Intern z. B. ki.firma.local für nutzerfreundlichen Zugriff.

Reverse Proxy vorhanden

Nginx/Traefik für SSL-Terminierung. Optional, aber empfohlen.

/03 — 06Sicherheit & Compliance

Wer darf fragen, was wird protokolliert, was wird gesichert.

$ audit --auth --logs --backup
Fünf Punkte, die der Datenschutzbeauftragte ohnehin stellen wird. Wer sie vor dem Rollout beantwortet, spart die Nachbesserung im laufenden Betrieb.

Authentifizierung geklärt

LDAP/Active Directory? SSO? Lokale Benutzerverwaltung?

Datenschutz-Anforderungen dokumentiert

Welche Daten? Aufbewahrungsfristen? Löschkonzept?

Logging-Konzept definiert

Was wird protokolliert? Wie lange? Zugriff auf Logs?

Backup-Strategie geplant

Konfiguration, Modelle, Nutzerdaten, RAG-Dokumente sichern.

SSL-Zertifikat verfügbar

Eigene CA, selbstsigniert oder Let's Encrypt.

/04 — 06Integration & Betrieb

Was angebunden wird — und wer es am Laufen hält.

$ systemctl status ki-stack
Sechs Punkte für die Zeit nach dem Go-Live. Die Einführung ist der kleinere Teil; Monitoring, Updates und ein klarer Support-Prozess entscheiden, ob das System in einem Jahr noch genutzt wird.

Bestehende Dokumentenquellen identifiziert

SharePoint, Confluence, Netzlaufwerke, DMS — was soll angebunden werden?

API-Integrationen geplant

Anbindung an ERP, CRM, Ticketsystem gewünscht?

Monitoring eingerichtet

GPU-Auslastung, RAM, API-Requests. Prometheus/Grafana, Zabbix etc.

Update-Strategie definiert

Wie werden Modelle und Software aktualisiert? Wartungsfenster?

Support-Prozess geklärt

Wer ist Ansprechpartner? Eskalationswege? SLA vereinbart?

Testumgebung geplant

Staging-System für Tests vor dem Produktiv-Rollout?

/05 — 06Hardware-Richtwerte

Drei Szenarien, von 5 bis 100+ Nutzern.

$ nvidia-smi --query-gpu=memory.total
Richtwerte, keine Angebote: Die Stufe folgt aus Modellgröße und Nutzerzahl. Wo Ihr Fall zwischen zwei Zeilen liegt, rechnen wir ihn im Konzept aus.
SzenarioNutzerGPURAMStorage
Einstieg / Pilot5–201× RTX 4090 (24 GB)64 GB1 TB NVMe
Mittelstand20–1002× RTX 4090 oder 1× A100128 GB2 TB NVMe
Enterprise100+2–4× A100 (80 GB)256+ GB4+ TB NVMe
/06 — 06Weiterführend

Was nach der Checkliste ansteht.

$ related --show 4
// nächster schritt

Technische Fragen?

Lassen Sie uns über Ihre Infrastruktur sprechen. Wir prüfen, was vorhanden ist und was ergänzt werden muss — mit den offenen Punkten aus der Liste als Grundlage.

Beratung und Betrieb aus Lichtenfels · Teil der HostSpezial GmbH

$ ki-check --technisch
Technisches Gespräch → Zum KI-Schnellcheck Termin vereinbaren
30 Minuten, unverbindlich und direkt mit einem technischen Ansprechpartner. Telefon 09571 873149 · info@ki-spezial.systems