IT-Leiter-Checkliste: KI-Einführung vorbereiten.
Hardware, Netzwerk, Sicherheit, Integration — 20 Punkte, die vor der Implementierung geklärt sein sollten. Abhaken, was steht; der Rest ist die Gesprächsgrundlage.
20 Punkte · 4 Bereiche · Hardware-RichtwerteDas Wichtigste auf einen Blick
- Geeignet für
- IT-Leiter und Administratoren, die ein lokales KI-System mit GPU-Server, Ollama und RAG vorbereiten — vor der ersten Bestellung
- Ausgangssituation
- Die Geschäftsführung will KI; Serverraum, Netz und Richtlinien sind dafür nie geplant worden, und niemand weiß, was fehlt
- Die Liste deckt ab
- 20 Punkte in vier Bereichen: Hardware & Infrastruktur (4), Netzwerk (5), Sicherheit & Compliance (5), Integration & Betrieb (6)
- Ihr Ergebnis
- Ein abgehakter Stand, der zeigt, was vorhanden ist und was ergänzt werden muss — als Grundlage für Sizing und Angebot
- Hardware-Richtwerte
- 1× RTX 4090 (24 GB) für 5–20 Nutzer, 2× RTX 4090 oder 1× A100 für 20–100, 2–4× A100 (80 GB) ab 100 Nutzern
- Strom & Kühlung
- 1.500–3.000 W je KI-Server, 500–1.000 W Abwärme je GPU, 2–4 HE Rack-Space oder Tower-Gehäuse
- Netzwerk
- Eigenes VLAN, mindestens 1 Gbit/s, Ports 443 und 11434, interner DNS-Name, Reverse Proxy für TLS
- Erster Schritt
- Liste durchgehen, offene Punkte notieren — wir prüfen im Gespräch, was vorhanden ist und was ergänzt werden muss
Ob der Serverraum einen GPU-Server verträgt.
Fortschritt 0 / 20
Serverraum mit ausreichend Kühlung
GPU-Server: ca. 500–1.000 W Abwärme pro GPU. Klimatisierung prüfen.
Stromversorgung geprüft
Typischer KI-Server: 1.500–3.000 W. USV vorhanden?
Rack-Space verfügbar
Standard: 2–4 HE. Alternativ: Tower-Gehäuse möglich.
Vorhandene Hardware geprüft
Evtl. Server mit NVIDIA-GPU (ab RTX 3090/4090, Tesla, A100) vorhanden?
Ein eigenes Segment, ein Name, ein Port nach außen.
Netzwerksegment definiert
Empfehlung: Eigenes VLAN für die KI-Infrastruktur.
Bandbreite ausreichend
Mind. 1 Gbit/s, bei vielen Nutzern: 10 Gbit/s empfohlen.
Firewall-Regeln vorbereitet
Ports: 443 (HTTPS), 11434 (Ollama), ggf. weitere.
DNS-Eintrag geplant
Intern z. B. ki.firma.local für nutzerfreundlichen Zugriff.
Reverse Proxy vorhanden
Nginx/Traefik für SSL-Terminierung. Optional, aber empfohlen.
Wer darf fragen, was wird protokolliert, was wird gesichert.
Authentifizierung geklärt
LDAP/Active Directory? SSO? Lokale Benutzerverwaltung?
Datenschutz-Anforderungen dokumentiert
Welche Daten? Aufbewahrungsfristen? Löschkonzept?
Logging-Konzept definiert
Was wird protokolliert? Wie lange? Zugriff auf Logs?
Backup-Strategie geplant
Konfiguration, Modelle, Nutzerdaten, RAG-Dokumente sichern.
SSL-Zertifikat verfügbar
Eigene CA, selbstsigniert oder Let's Encrypt.
Was angebunden wird — und wer es am Laufen hält.
Bestehende Dokumentenquellen identifiziert
SharePoint, Confluence, Netzlaufwerke, DMS — was soll angebunden werden?
API-Integrationen geplant
Anbindung an ERP, CRM, Ticketsystem gewünscht?
Monitoring eingerichtet
GPU-Auslastung, RAM, API-Requests. Prometheus/Grafana, Zabbix etc.
Update-Strategie definiert
Wie werden Modelle und Software aktualisiert? Wartungsfenster?
Support-Prozess geklärt
Wer ist Ansprechpartner? Eskalationswege? SLA vereinbart?
Testumgebung geplant
Staging-System für Tests vor dem Produktiv-Rollout?
Drei Szenarien, von 5 bis 100+ Nutzern.
| Szenario | Nutzer | GPU | RAM | Storage |
|---|---|---|---|---|
| Einstieg / Pilot | 5–20 | 1× RTX 4090 (24 GB) | 64 GB | 1 TB NVMe |
| Mittelstand | 20–100 | 2× RTX 4090 oder 1× A100 | 128 GB | 2 TB NVMe |
| Enterprise | 100+ | 2–4× A100 (80 GB) | 256+ GB | 4+ TB NVMe |
Was nach der Checkliste ansteht.
KI On-Premise
Architektur in sechs Schichten, Hardware-Stufen und Kostenvergleich zur Cloud-API — die Leistungsseite zur Checkliste.
ki-lösungKI-System
Komplette KI-Systeme für Unternehmen: von der Planung über die Implementierung bis zum produktiven Betrieb.
betriebKI-Administration
Monitoring, Modell-Updates, Backups und SLA-Support — die Punkte aus „Integration & Betrieb" als Dienstleistung.
selbsttestKI-Schnellcheck
Die fachliche Seite der Vorbereitung: Wo lohnt sich KI in Ihrem Unternehmen zuerst?
Technische Fragen?
Lassen Sie uns über Ihre Infrastruktur sprechen. Wir prüfen, was vorhanden ist und was ergänzt werden muss — mit den offenen Punkten aus der Liste als Grundlage.
Beratung und Betrieb aus Lichtenfels · Teil der HostSpezial GmbH