27 kW pro Rack: Was ein KI-Server 2026 wirklich an Strom und Kühlung kostet

Die interessanteste Zahl in jedem GPU-Angebot steht nicht im Angebot. Sie steht im Datenblatt des Systems, ganz unten, unter „Maximum Power Consumption" – und sie entscheidet darüber, ob die Maschine, die Sie gerade bestellen wollen, überhaupt in Ihr Haus passt. Ein einzelner DGX-B200-Knoten zieht bis zu 14,3 kW. Der durchschnittliche mittelständische Serverraum ist auf 3 bis 5 kW für das gesamte Rack ausgelegt, oft inklusive Klima. Zwischen diesen beiden Zahlen liegt ein Elektrikerprojekt.

Dieser Artikel liefert die Zahlen, mit denen Sie das vor der Bestellung durchrechnen: Leistungsaufnahme je GPU-Generation, realistische Knotenleistung inklusive Overhead, wo Luftkühlung tatsächlich endet (nicht wo Marketingfolien es behaupten), was der Betrieb in Deutschland zu amtlichen Strompreisen kostet – und warum die Antwort für den Mittelstand in den allermeisten Fällen deutlich entspannter ausfällt, als die 27-kW-Schlagzeile suggeriert.

Warum Strom der neue Engpass ist

Bis 2024 lautete die Standardfrage im KI-Infrastrukturprojekt: „Bekommen wir die Karten?" Seit 2026 lautet sie: „Bekommen wir den Strom dorthin?" Die Verschiebung lässt sich an den Erhebungen der Branche ablesen.

Der AFCOM State of the Data Center 2026 meldet einen durchschnittlichen Wert von 27 kW pro Rack – nach 16 kW im Vorjahr. Das ist der mit Abstand größte Jahressprung in zehn Jahren AFCOM-Forschung. Die Reihe davor: 7 kW (2021), 8,5 kW (2023), 12 kW (2024), 16 kW (2025). 69 % der Befragten erwarten in den nächsten 12 bis 36 Monaten weiter steigende Dichten. 74 % planen KI-fähige Systeme im eigenen Rechenzentrum – 2025 waren es noch 64 %.

Die 27 kW sind ein Durchschnitt, kein Normalzustand

Hier ist der Punkt, den die meisten Artikel zu diesem Thema unterschlagen: Der 16. Global Data Center Survey des Uptime Institute (über 1.600 Teilnehmer, Befragung April/Mai 2026) kommt zu einem ganz anderen Bild. Die typische, also modale Rack-Dichte liegt dort erst bei 11 kW, nach 9 kW im Vorjahr. Rechnet man die wenigen neuen Hochdichte-Anlagen heraus, liegt der Durchschnitt bei 7,8 kW (2025: 7,5 kW). 24 % der Betreiber haben einzelne Racks mit 30 kW oder mehr, und das Wachstum findet fast ausschließlich oberhalb von 50 kW statt.

Beide Zahlen stimmen. Sie messen nur Verschiedenes. Die 27 kW sind ein arithmetischer Durchschnitt, den eine kleine Zahl extrem dichter KI-Anlagen nach oben zieht. Das gewöhnliche Unternehmens-Rack liegt weiterhin bei 8 bis 12 kW. Wer die 27 kW als Planungsgröße für seinen eigenen Serverraum nimmt, plant an der Realität vorbei – nach oben.

Leistungsaufnahme je GPU-Generation

Die Zahlen, mit denen Sie rechnen sollten, stehen in den NVIDIA-Datenblättern. Der Verlauf über fünf Jahre ist eindeutig – und er ist der eigentliche Grund für die Dichteentwicklung:

GPU	Jahr	Leistungsaufnahme	Kühlung
A100 SXM4	2020	400 W	Luft
H100 SXM5	2022	700 W	Luft (grenzwertig)
H200	2024	700 W	Luft (grenzwertig)
B200	2025	1.000 W / 1.200 W	Luft / flüssig (voll freigeschaltet)
B300	2026	1.400 W	flüssig
RTX PRO 6000 Blackwell (96 GB)	2025	600 W	Luft

Zwei Dinge sind an dieser Tabelle wichtiger als der Trend selbst. Erstens: Die oft zitierte B200-Angabe „1.000 bis 1.200 W" ist keine Spanne, sondern eine Konfigurationsfrage. 1.000 W ist die luftgekühlte Standardvariante in HGX- und DGX-B200-Systemen; 1.200 W erreicht nur die voll freigeschaltete, flüssiggekühlte Ausbaustufe. Wer luftgekühlt kauft, bekommt nicht die volle Leistung – das gehört in jede Angebotsbewertung.

Zweitens: Die RTX PRO 6000 Blackwell mit 96 GB GDDR7 bei 600 W ist für den Mittelstand die eigentlich relevante Klasse. Sie liegt bei 60 % der B200-Aufnahme, ist luftgekühlt zu betreiben und bietet mit 96 GB VRAM genug Speicher, um ein quantisiertes 70B-Modell auf einer einzelnen Karte zu fahren. Für Inference-Lasten – und darum geht es im Mittelstand fast immer – ist das die pragmatische Antwort.

Knotenleistung in der Praxis

Der häufigste Rechenfehler in der Planung: GPU-TDP mal acht. Das unterschätzt den Bedarf um rund die Hälfte. Ein 8×-H100-System zieht nicht 5,6 kW, sondern 10,2 kW – der Rest verteilt sich auf CPUs, NVLink-Switches, Arbeitsspeicher, Lüfter und Netzteilverluste. Der Nicht-GPU-Overhead macht bei modernen KI-Knoten 40 bis 50 % der Systemaufnahme aus.

Konfiguration	GPU-Anteil	Systemaufnahme	Referenzsystem
8× A100	3,2 kW	5,5–6,5 kW	DGX A100: 6,5 kW
8× RTX PRO 6000	4,8 kW	ca. 6,5 kW	2–4 HE Inferenzserver
8× H100	5,6 kW	10–10,5 kW	DGX H100: 10,2 kW
8× B200	8,0 kW	13–15 kW	DGX B200: ca. 14,3 kW max.
GB200 NVL72 (Rack)	72 GPUs + 36 CPUs	120–132 kW	nur flüssiggekühlt lieferbar

Der GB200 NVL72 verdient eine eigene Bemerkung, weil er das obere Ende der Skala markiert und zeigt, wohin NVIDIA die Branche schiebt: 72 Blackwell-GPUs und 36 Grace-CPUs in einem einzigen Rack, nominal rund 120 kW, unter Volllast gemessene 130 bis 132 kW. Davon werden etwa 115 kW über Flüssigkeit abgeführt, die restlichen rund 17 kW über Luft. Eine rein luftgekühlte Variante existiert schlicht nicht – NVIDIA setzt Flüssigkühlung oberhalb von etwa 40 kW pro Rack voraus.

Wo Luftkühlung endet

Die Behauptung „Luftkühlung endet bei 10 kW pro Rack" geistert seit Jahren durch Präsentationen. Sie ist zu streng. Nach Auswertungen von JLL Research trägt Luftkühlung in gut ausgelegten Umgebungen bis rund 20 kW pro Rack; klassische Doppelbodenräume ohne Kalt-/Warmgang-Einhausung liegen realistisch bei 10 bis 15 kW. Rear-Door-Wärmetauscher – Türen mit integriertem Wasserkreislauf, ein sehr pragmatischer Zwischenschritt – tragen bis etwa 100 kW. Oberhalb von rund 175 kW pro Rack führt praktisch kein Weg mehr an Immersionskühlung vorbei.

Die ehrliche Formulierung lautet deshalb: Ab etwa 10 kW pro Rack verschlechtert sich die Effizienz spürbar – der PUE steigt, weil Sie immer mehr Strom in Ventilatoren stecken. Ab 30 bis 40 kW wird Flüssigkühlung wirtschaftlich zwingend, und bei NVIDIA-Systemen dieser Klasse ist sie ohnehin Voraussetzung.

Warum Wasser gewinnt: die Physik

Wasser leitet Wärme im Ruhezustand rund 25-mal besser als Luft. In der Anwendung ist der Unterschied noch drastischer: Eine Cold Plate erreicht etwa 15.000 W pro Quadratmeter und Kelvin, Luftkühlung kommt auf rund 50 W. Das ist der Faktor 300, und er erklärt, warum es oberhalb weniger Zehner-Kilowatt keine Luftlösung mehr gibt – nicht weil die Hersteller es nicht wollten, sondern weil Sie die Luft schneller bewegen müssten, als sie sich noch sinnvoll bewegen lässt.

PUE nach Kühlart

Der Power Usage Effectiveness ist das Verhältnis von Gesamtaufnahme zu IT-Aufnahme. PUE 1,3 heißt: Für jedes Kilowatt Rechenleistung zahlen Sie 0,3 kW für Kühlung, Verluste und Nebengewerke.

Kühlverfahren	Tragfähigkeit / Rack	PUE
Luft, klassischer Doppelboden	10–15 kW	1,3–1,5
Luft mit Einhausung / In-Row	bis ca. 20 kW	1,25–1,4
Rear-Door-Wärmetauscher	bis ca. 100 kW	1,15–1,25
Direct-to-Chip (Cold Plates)	10–120 kW	ca. 1,15
Immersion, einphasig	ab ca. 175 kW sinnvoll	1,02–1,10
Immersion, zweiphasig	Spitzenklasse	1,01–1,03

Zur Einordnung: Der Branchendurchschnitt lag 2025 bei PUE 1,54. Die Hyperscaler liegen deutlich darunter – Meta bei 1,08, Google flottenweit bei 1,09, AWS bei 1,15, Microsoft bei 1,16. Und der Warnwert: Wer 60 kW pro Rack mit Gewalt luftgekühlt betreiben will, landet bei PUE 1,7 bis 2,0. Dann geht die Hälfte des Stroms in die Kühlung.

Der Markt zieht entsprechend nach. Laut S&P Global Market Intelligence / 451 Research („Voice of the Enterprise: Data Centers, Liquid Cooling Technology 2025", November 2025) arbeiten nur noch 45 % der Rechenzentren rein luftgekühlt (2024: 48 %); 59 % planen Flüssigkühlung innerhalb von fünf Jahren. AFCOM 2026 misst 36 % mit bereits im Einsatz befindlicher Flüssigkühlung und weitere 28 % mit Planung in den nächsten 12 bis 24 Monaten. Die Dell'Oro Group beziffert den Markt für Rechenzentrums-Flüssigkühlung im Januar 2026 auf knapp 3 Mrd. USD für 2025 – nahezu eine Verdopplung – mit Prognose 7 Mrd. USD bis 2029; Direct-to-Chip hält davon rund 47 % im KI-Segment. Schneider Electric veröffentlichte am 28. Juli 2026 einen eigenen Leitfaden zur Planung flüssiggekühlter KI-Rechenzentren entlang von Netz- und Leistungsgrenzen – ein Indiz dafür, dass die Netzanbindung inzwischen als gleichrangiges Planungskriterium neben der Kühlung steht.

Bemerkenswert ist, wie uneins die Branche bei der Schwelle ist: Bei der AFCOM-Frage, ab welcher Dichte Flüssigkühlung nötig wird, nennen je rund 20 % die Bereiche 21–40 kW, 41–60 kW und noch höhere Schwellen. Es gibt also keinen Konsenswert – nur den Bereich, in dem es unbequem wird.

Was das an Strom kostet

Für ein deutsches Publikum ist der belastbarste Preisanker der amtliche: Laut Statistischem Bundesamt kostete Strom für Nicht-Haushaltskunden im zweiten Halbjahr 2025 im Schnitt 19,22 ct/kWh. (Haushalte zahlen rund 40 ct/kWh – dieser Wert taucht in Diskussionen oft fälschlich auf.) Damit lassen sich Knotenkosten direkt ausrechnen:

Knoten	IT-Last	inkl. PUE	Strom/Jahr (19,22 ct)
8× RTX PRO 6000	6,5 kW	8,1 kW (PUE 1,25)	ca. 13.700 €
8× H100 (DGX H100)	10,2 kW	13,3 kW (PUE 1,3)	ca. 22.300 €
8× B200 (DGX B200)	14,3 kW	18,6 kW (PUE 1,3)	ca. 31.300 €

Diese Werte gelten für Dauerbetrieb bei hoher Auslastung. Wer den Knoten nur acht Stunden am Tag unter Last fährt, kommt näher an ein Drittel heran – aber Leerlaufaufnahme und Klimatisierung laufen weiter, planen Sie deshalb nicht linear herunter.

Die internationale Vergleichsrechnung

Für die Größenordnung im Cluster-Maßstab kursiert eine viel zitierte Modellrechnung, die aus dem Blog eines GPU-Cloud-Anbieters stammt („AI Inference Power and Electricity Cost 2026") und deshalb mit Vorsicht zu genießen ist – der Anbieter stellt im selben Beitrag seine eigenen Cloud-Preise gegen On-Prem. Die Arithmetik ist dennoch nachvollziehbar: Ein Cluster mit 1.000 H100 zieht inklusive PUE 1,4 rund 1,76 MW. Monatliche Stromkosten je Standort:

• Pacific Northwest (Wasserkraft, 0,04 USD/kWh): ca. 50.800 USD
• US-Mittelwesten (0,07 USD/kWh): ca. 88.900 USD
• US-Median (0,12 USD/kWh): ca. 152.400 USD
• Westeuropa (0,15–0,25 USD/kWh): ca. 190.500–317.500 USD

Über drei Jahre summiert sich das je nach Standort auf bis zu 9,6 Mio. USD Unterschied – bei identischer Hardware. Das ist kein Argument gegen europäische Standorte, sondern eines für Effizienz.

TCO-Aufschlüsselung pro GPU-Stunde

Dieselbe Modellrechnung schlüsselt die On-Premise-Kosten je H100-Stunde bei 0,12 USD/kWh so auf:

• 1,69 USD/h Hardware-Abschreibung – ein 350.000-USD-Server über 36 Monate
• 0,21 USD/h Strom – 0,7 kW GPU × 1,8 Server-Overhead × 1,4 PUE
• 2,85 USD/h Personalanteil
• Summe: ca. 4,75 USD/h

Und hier kommt die Einschränkung, die den ganzen Abschnitt trägt: Der Personalanteil unterstellt einen Vollzeit-Ingenieur auf gerade einmal acht GPUs. Das ist die kleinstmögliche Installation, und sie ist der Hebel, der On-Premise in dieser Rechnung teuer aussehen lässt. Skaliert man auf 64 GPUs – acht Knoten, für ein KI-Projekt im gehobenen Mittelstand keine exotische Größe –, sinkt der Personalposten auf etwa 0,36 USD/h und die Gesamtkosten auf rund 2,26 USD/h.

Die richtige Lesart ist deshalb: Bei sehr kleinen Installationen dominiert nicht der Strom, sondern das Personal. Strom macht in dieser Rechnung 4 % aus, Personal 60 %. Wer die Wirtschaftlichkeit einer On-Premise-Lösung verbessern will, hat zwei Hebel – Auslastung erhöhen (mehr Durchsatz pro Knoten) und Betriebsaufwand senken (Managed Operations statt eigener Vollzeitstelle). Die Stromrechnung ist der Posten, über den am meisten geredet und am wenigsten entschieden wird. Wer die Zahlen für die eigene Konfiguration durchspielen will, findet im TCO-Rechner die passenden Stellschrauben.

Die realistische Mittelstandsantwort

Nach all den Kilowatt-Zahlen die Entwarnung – differenziert. Für den typischen Mittelständler gilt die Uptime-Zahl, nicht die AFCOM-Zahl: Das normale Rack liegt bei 8 bis 12 kW. Und in diesen Bereich passen mehr KI-Konfigurationen, als die Schlagzeilen vermuten lassen.

Die Abstufung, auf die es ankommt

1. Ein einzelner Inferenzknoten mit 8× RTX PRO 6000 (ca. 6,5 kW) passt in einen konventionell luftgekühlten, ordentlich eingehausten Serverraum. Das ist die Konfiguration, die Assistenzsysteme, RAG-Suche und Dokumentenverarbeitung für ein Unternehmen mit 100 bis 500 Mitarbeitern trägt.
2. Ein einzelner 8×-H100-Knoten (10,2 kW) ist mit Einhausung und ausreichend dimensionierter Klimatisierung noch machbar – aber Sie sind am oberen Rand. Ein zweiter Knoten im selben Rack sprengt die Luftkühlung.
3. Ab dem zweiten oder dritten Knoten pro Rack, oder bei B200-Klasse, wird Flüssigkühlung Thema. Spätestens hier reden Sie über Rear-Door-Wärmetauscher, Kaltwassersatz und einen Elektroplaner.

Die praktische Konsequenz: 600-W-Karten statt 15-kW-Knoten decken einen erstaunlich großen Teil der Anwendungsfälle ab. Für Inferenz auf quantisierten Modellen bis 70B Parameter ist der Unterschied in der Antwortzeit für einen Nutzer am Chat-Fenster kaum wahrnehmbar; der Unterschied in der Infrastruktur ist der zwischen „passt rein" und „Umbau".

Colocation als Zwischenschritt

Wenn die Anwendung wirklich Dichte braucht und der eigene Serverraum sie nicht hergibt, ist Colocation die pragmatischste Antwort – und sie erhält die Datenhoheit. Ihre Hardware, Ihre Modelle, Ihre Daten, nur in einem Raum, der 40 kW pro Rack abführen kann. Der wesentliche Unterschied zur Public Cloud: Sie mieten Fläche und Strom, nicht Rechenzeit auf fremder Hardware. Ein Umbau des eigenen Serverraums lässt sich damit auf einen Zeitpunkt verschieben, an dem der Bedarf tatsächlich belegt ist.

Die Checkliste vor der Bestellung

• Anschlussleistung: Wie viel kW liegen tatsächlich an der Unterverteilung an – nicht am Hausanschluss? Absicherung und Zuleitungsquerschnitt prüfen lassen.
• USV-Kapazität: Eine 10-kW-USV trägt keinen 10-kW-Knoten. Rechnen Sie mit Reserve und prüfen Sie die Überbrückungszeit unter Volllast.
• Kühlleistung: Nennleistung des Klimageräts bei Auslegungstemperatur, nicht bei 25 °C Außentemperatur im Datenblatt.
• Luftführung: Ohne Kalt-/Warmgang-Trennung verlieren Sie einen erheblichen Teil der nominellen Kühlleistung durch Rezirkulation.
• Bodenlast und Tiefe: KI-Knoten sind schwer und tief. 1.200 mm Rack-Tiefe ist oft das Minimum.
• Redundanz: Was passiert, wenn das Klimagerät ausfällt? Ein 14-kW-Knoten heizt einen kleinen Raum in Minuten auf Abschalttemperatur.

Diese Prüfung kostet einen halben Tag und verhindert die teuerste Überraschung im ganzen Projekt. Wir übernehmen sie im Rahmen der Auslegung von On-Premise-KI-Servern und beim KI-Full-Stack-Providing standardmäßig – vor dem Angebot, nicht danach.

Quellen & Primärbelege

Alle Zahlen, Fristen und Produktangaben in diesem Beitrag wurden vor der Veröffentlichung gegen die folgenden Primaerquellen geprüft.

1. cdn.ymaws.com afcom stateofdatacenter26 ex
2. upsite.com what is going on with rack density
3. finance.yahoo.com uptime institute 16th annual 2026 130200115
4. datacenterknowledge.com ai drives data center uncertainty in uptime s 2026 survey
5. networkworld.com why ai rack densities make liquid cooling nonnegotiable
6. blog.451alliance.com air cooling remains prevalent but liquid cooling is gaining momentum
7. NVIDIA dgx b200
8. NVIDIA gb200 nvl72
9. NVIDIA rtx pro 6000
10. amcompute.com the power budget of an ai data center
11. spheron.network ai inference power electricity cost 2026
12. destatis.de inhalt

Häufig gestellte Fragen zu Strom und Kühlung von KI-Servern

Passt ein GPU-Server in meinen bestehenden Serverraum?

Bei einem 8x-B200-Knoten mit 13 bis 15 kW meist nicht. Typische Mittelstands-Serverräume sind auf wenige Kilowatt ausgelegt. Prüfen Sie Anschlussleistung, USV-Kapazität und Kühlleistung vor der Bestellung.

Ab wann brauche ich Flüssigkühlung?

Praktisch ab etwa 10 kW pro Rack. Darunter ist Luftkühlung mit guter Luftführung machbar, darüber wird sie unwirtschaftlich oder schlicht unmöglich.

Was kostet der Betrieb an Strom?

Rechnen Sie mit 0,15 bis 0,25 USD pro Kilowattstunde in Westeuropa. Ein 8x-H100-Knoten mit rund 10 kW liegt damit im Dauerbetrieb bei mehreren tausend Euro Stromkosten pro Monat - vor Kühlung.

Ist eine kleinere GPU-Klasse die bessere Wahl?

Für viele Mittelstandsfälle ja. Eine Lösung mit 600-W-Karten deckt Assistenz, RAG und Dokumentenverarbeitung ab, passt in vorhandene Infrastruktur und vermeidet einen Umbau von Elektrik und Klima.