Hardware, Netzwerk, Sicherheit, Integration – diese Checkliste hilft Ihnen, alle technischen Anforderungen zu klären.
GPU-Server: ca. 500-1000W Abwärme pro GPU. Klimatisierung prüfen.
Typischer KI-Server: 1.500-3.000W. USV vorhanden?
Standard: 2-4 HE. Alternativ: Tower-Gehäuse möglich.
Evtl. Server mit NVIDIA GPU (ab RTX 3090/4090, Tesla, A100) vorhanden?
Empfehlung: Eigenes VLAN für KI-Infrastruktur.
Mind. 1 Gbit/s, bei vielen Nutzern: 10 Gbit/s empfohlen.
Ports: 443 (HTTPS), 11434 (Ollama), ggf. weitere.
Intern z.B. ki.firma.local für User-freundlichen Zugriff.
Nginx/Traefik für SSL-Terminierung. Optional aber empfohlen.
LDAP/Active Directory? SSO? Lokale Benutzerverwaltung?
Welche Daten? Aufbewahrungsfristen? Löschkonzept?
Was wird protokolliert? Wie lange? Zugriff auf Logs?
Konfiguration, Modelle, Nutzerdaten, RAG-Dokumente sichern.
Eigene CA, selbstsigniert oder Let's Encrypt.
SharePoint, Confluence, Netzlaufwerke, DMS – was soll angebunden werden?
Anbindung an ERP, CRM, Ticketsystem gewünscht?
GPU-Auslastung, RAM, API-Requests. Prometheus/Grafana, Zabbix, etc.
Wie werden Modelle und Software aktualisiert? Wartungsfenster?
Wer ist Ansprechpartner? Eskalationswege? SLA vereinbart?
Staging-System für Tests vor Produktiv-Rollout?
| Szenario | Nutzer | GPU | RAM | Storage |
|---|---|---|---|---|
| Einstieg / Pilot | 5-20 | 1x RTX 4090 (24GB) | 64 GB | 1 TB NVMe |
| Mittelstand | 20-100 | 2x RTX 4090 oder 1x A100 | 128 GB | 2 TB NVMe |
| Enterprise | 100+ | 2-4x A100 (80GB) | 256+ GB | 4+ TB NVMe |
Lassen Sie uns über Ihre Infrastruktur sprechen. Wir prüfen, was vorhanden ist und was ergänzt werden muss.