AMD MI400 und Helios gegen NVIDIA Blackwell: Was der 23. Juli 2026 für den Mittelstand bedeutet

Wenn ein Mittelständler heute einen KI-Server beschafft, landet er in neun von zehn Fällen bei NVIDIA. Nicht, weil die Hardware konkurrenzlos wäre, sondern weil der Softwarestack darunter seit Jahren der Standard ist. Der AMD-Launch vom 23. Juli 2026 ist die erste Gelegenheit seit langem, diese Reflexentscheidung ernsthaft zu hinterfragen – und gleichzeitig die erste Gelegenheit, bei der man sich mit falschen Vergleichszahlen gründlich verrechnen kann.

Dieser Artikel ordnet den Launch für die Größenordnung ein, in der wir tatsächlich Projekte bauen: ein bis vier Knoten, nicht ein Gigawatt. Und er nennt zwei Dinge beim Namen, die in den Launch-Berichten untergehen – erstens, dass AMD selbst gar nicht gegen Blackwell vergleicht, und zweitens, dass das oft zitierte Speicherargument gegenüber der aktuellen NVIDIA-Generation nicht mehr trägt.

Was AMD am 23. Juli 2026 gelauncht hat

Die Veranstaltung „Advancing AI 2026" lief am 22. und 23. Juli 2026 in San Francisco, die Launch-Pressemitteilung ist auf den 23. Juli datiert. Der Umfang war ungewöhnlich breit – AMD hat nicht einen Chip vorgestellt, sondern eine komplette Plattformgeneration:

• Instinct MI400-Serie: MI455X als Flaggschiff für KI-Training und -Inferenz, MI430X mit Fokus auf FP64/HPC, MI350P als Retrofit-SKU für bestehende Infrastruktur.
• Helios: die flüssigkeitsgekühlte Rackscale-Lösung, die MI455X, EPYC-CPUs und AMD-Pensando-Networking in einem Chassis integriert.
• 6. Generation EPYC „Venice": die Host-CPU-Seite der Plattform.
• Ryzen AI Embedded X100 sowie die Kria AI SOMs samt Kria AI Robotics Developer Platform – für Edge- und Robotik-Workloads.

Die eigentliche Nachricht steckte aber in der Kundenliste. Anthropic kündigte eine mehrjährige Kooperation mit AMD an: den Einsatz von bis zu 2 Gigawatt MI455X-Kapazität in Helios-Racks, wobei Berichten zufolge das erste Gigawatt ab dem ersten Halbjahr 2027 in Betrieb geht. Interessanter Nebenaspekt: AMD nutzt Claude selbst für die ROCm-Entwicklung und Workload-Optimierung. OpenAI will Helios ab dem vierten Quartal 2026 in Betrieb nehmen und arbeitet unter anderem an der Triton-Integration in ROCm mit. Weiter genannt wurden Meta (Co-Design für Gigawatt-Skala), Microsoft, Oracle, Cerebras, HUMAIN, Tensorwave, Vultr und Cirrascale. Auf OEM-Seite: HPE, Lenovo, Supermicro, Bull, Sanmina und Wiwynn.

Das ist relevant, weil Großabnehmer dieser Klasse Softwarearbeit erzwingen. Wer 2 Gigawatt MI455X betreibt, sorgt dafür, dass die Inferenz-Engines darauf laufen – und davon profitieren am Ende auch Projekte mit acht Karten statt achtzigtausend.

HBM ist das Kaufargument – aber nicht mehr pro Chip

Die Standarderzählung der letzten zwölf Monate lautete: AMD bietet mehr Speicher pro Beschleuniger. Der MI355X liefert 288 GB HBM3E bei 8 TB/s Speicherbandbreite, rund 10,1 PFLOPS bei MXFP4/MXFP6 und etwa 5 PFLOPS bei FP8. Gegenüber dem NVIDIA B200 mit 192 GB waren das 50 Prozent mehr Kapazität pro Karte – ein hartes, einfach nachrechenbares Argument.

Dieses Argument ist inzwischen abgelaufen. NVIDIAs aktuelle Blackwell-Ultra-Generation (B300, GB300) bringt ebenfalls 288 GB HBM3E mit. Wer heute vergleicht und dabei noch den B200 als Referenz nimmt, rechnet mit einer Konfiguration, die im Neugeschäft kaum noch angeboten wird. Der reine Kapazitätsvorteil pro Chip existiert gegenüber der aktuellen NVIDIA-Generation nicht mehr.

Wo das Speicherargument weiterhin trägt

Zwei Ebenen bleiben:

1. Speicher pro Rack beziehungsweise pro Scale-Up-Domain. Ein Helios-Chassis bringt 31 TB unified HBM4 und rund 1,4 PB/s aggregierte Speicherbandbreite mit. AMD reklamiert daraus 50 Prozent mehr Speicherkapazität pro Rack als ein Vera Rubin NVL72. Für Modelle, die über eine Karte hinauswachsen, ist die Domain-Kapazität die relevante Größe, nicht die Chipzahl.
2. Speicher pro Euro. Hier liegt der praktisch nutzbare Vorteil für kleinere Projekte. AMD positioniert die Instinct-Linie preislich aggressiver, und bei gleicher Kapazität entscheidet der Preis pro GB nutzbarem VRAM darüber, ob ein Modell auf zwei oder auf vier Karten läuft.

Warum das so viel ausmacht: Die Kartenzahl bestimmt fast alles andere. Weniger Karten heißt weniger Höheneinheiten, weniger Netzteilkapazität, weniger Abwärme, weniger Interconnect-Komplexität und weniger Lizenz- beziehungsweise Supportvolumen. In einem Projekt, das wir im Frühjahr gerechnet haben, machte der Sprung von acht auf vier Beschleuniger bei identischem Modell rund 40 Prozent der Gesamtinvestition aus – nicht wegen der GPUs allein, sondern wegen allem, was daran hängt. Wer die Auswirkungen für den eigenen Fall durchspielen will, findet im TCO-Rechner die passenden Stellschrauben.

Was Helios im Rack leistet – und für wen

Helios ist AMDs Antwort auf NVIDIAs NVL72-Rackformat. Die Konfiguration in Zahlen:

Merkmal	AMD Helios	Einordnung
Beschleuniger	72 × Instinct MI455X	gleiche GPU-Zahl wie Vera Rubin NVL72
CPUs	18 × EPYC „Venice" (6. Gen)	Vera Rubin NVL72: 36 Vera-CPUs
Speicher	31 TB unified HBM4	AMD: +50 % ggü. NVL72
Bandbreite	~1,4 PB/s aggregiert, 260 TB/s Scale-Up	Pensando-Fabric, Front-End/Scale-Up/Scale-Out
Rechenleistung	~2,9 EFLOPS FP4 / ~1,4 EFLOPS FP8	Herstellerangabe, Rackebene
Kühlung	Flüssigkeitskühlung, ein Chassis	NVL72-Klasse: 190–230 kW pro Rack
Verfügbarkeit / Preis	Auslieferung ab Ende Q3 2026, Ramp 2027	berichtete Listenpreise 5,0–5,5 Mio. USD/Rack

Der meistzitierte Wert aus dem Launch ist „bis zu 30 Prozent mehr Inferenz-Token pro Dollar". Diese Zahl braucht drei Fußnoten, sonst führt sie in die Irre: Der Vergleichsmaßstab ist explizit das NVIDIA Vera Rubin NVL72 – nicht Blackwell. Gemessen wurde auf einem Kimi-K2-Thinking-Workload mit 32K Input und 8K Output. Und die Messung stammt von den AMD Performance Labs mit Stand Juli 2026, ist also eine Herstellerschätzung und kein neutraler Benchmark.

Ähnliches gilt für den spektakulärsten Einzelwert: AMD nennt für den MI455X mit 432 GB HBM4 und knapp 20 TB/s Bandbreite pro GPU einen bis zu 34-fach höheren Token-Durchsatz gegenüber dem MI355X. Gemessen wurde das auf DeepSeek V4 Flash mit FP4-Serving – ein Best Case aus niedriger Präzision und Sparsity, kein genereller Generationssprung. Wer daraus Faktor 34 für den eigenen Llama- oder Qwen-Workload ableitet, wird enttäuscht.

Für Mittelstandsprojekte lautet die nüchterne Antwort auf Helios: nicht relevant. Bei berichteten 5 bis 5,5 Millionen US-Dollar Listenpreis pro voll konfiguriertem Rack, Flüssigkeitskühlung und einem Anschlussbedarf in der Größenordnung eines kleinen Gewerbegebiets ist das ein Hyperscaler- und Sovereign-AI-Produkt. Wie schnell selbst kleinere Racks an die Grenzen normaler Serverräume stoßen, zeigt unser Beitrag zu Strom und Kühlung bei 27 kW pro Rack.

MLPerf v6.0 richtig lesen

Die Ergebnisse von MLPerf Inference v6.0 wurden am 1. April 2026 veröffentlicht und sind die belastbarste unabhängige Datenbasis, die es derzeit gibt. AMD reichte den MI355X auf drei Workloads ein: Llama 2 70B, gpt-oss-120b und Wan2.2-T2V (Text-to-Video).

Konfiguration	Workload	Token/s	ggü. NVIDIA B300
11 Nodes (Multinode)	Llama 2 70B, offline	1.042.110	92 %
11 Nodes (Multinode)	Llama 2 70B, server	1.016.380	93 %
–	Llama 2 70B, interactive	–	104 %
12 Nodes (Multinode)	gpt-oss-120b, offline	1.031.070	bis 111 %
–	gpt-oss-120b, server	–	bis 115 %
1 Node (8 × MI355X)	Llama 2 70B, offline	103.480	Einzelknoten-Referenz
1 Node (8 × MI355X)	gpt-oss-120b, offline	95.004	Einzelknoten-Referenz

Aus diesen Zahlen lassen sich vier Lesehinweise ableiten, die man im Beschaffungsgespräch parat haben sollte.

1. Die Referenz ist der B300, nicht der B200

Wer den pauschalen Satz „AMD liegt im einstelligen Prozentbereich hinter NVIDIA" hört, sollte nachfragen, gegen welchen Chip. Der Rückstand von 7 bis 8 Prozentpunkten gilt für Llama 2 70B in Offline und Server gegen den B300 – im Interactive-Modus liegt der MI355X mit 104 Prozent vorn, auf gpt-oss-120b mit 111 bis 115 Prozent deutlich vorn.

2. Der Rückstand ist workload-abhängig, nicht strukturell

Das ist der eigentlich interessante Befund: Es gibt keinen konstanten AMD-Malus. Ob AMD vorn oder hinten liegt, hängt an Modellarchitektur, Sequenzlängen und Latenzziel. Ein MoE-Modell wie gpt-oss-120b liegt AMD offensichtlich besser als ein dichtes Llama-2-70B. Für Ihr Projekt heißt das: Der einzige aussagekräftige Benchmark ist der mit Ihrem Modell.

3. Die Abdeckungslücke ist der ehrlichste Befund

AMD hat drei Workloads eingereicht, NVIDIA reicht breit über nahezu die gesamte Suite ein. Für alle nicht eingereichten Kategorien – Empfehlungssysteme, Bildklassifikation, Objekterkennung, große Sprachmodelle jenseits der drei genannten – existieren schlicht keine vergleichbaren AMD-Zahlen. Fehlende Einreichung ist kein Beweis für schlechte Leistung, aber sie ist auch kein Beleg für gute. Wer außerhalb der drei getesteten Muster liegt, hat keine Datenbasis und muss selbst messen.

4. „Erstmals über 1 Million Token/s" ist ein AMD-Meilenstein

Die Formulierung stammt von AMD und bezieht sich auf den eigenen Fortschritt auf Cluster-Ebene, nicht auf einen Industrierekord. Außerdem: Es sind 11 beziehungsweise 12 Knoten. Ein Cluster-Wert lässt sich nicht auf eine Einzelknoten-Beschaffung übertragen – die relevanten Zahlen für ein Mittelstandsprojekt sind die 103.480 und 95.004 Token/s aus der Single-Node-Zeile.

ROCm gegen CUDA: das echte Projektrisiko

Die Hardwarefrage ist 2026 im Wesentlichen beantwortet – AMD ist konkurrenzfähig. Das Risiko liegt eine Ebene höher. CUDA ist nicht nur eine Programmierschnittstelle, sondern ein über anderthalb Jahrzehnte gewachsenes Ökosystem aus Bibliotheken, Compilern, Profilern, vortrainierten Kernels und – nicht zu unterschätzen – Stack-Overflow-Antworten.

Was heute unter ROCm funktioniert

Die aktuelle stabile Linie ist ROCm 7.x (Stand Mitte 2026: 7.2.x). PyTorch, vLLM und SGLang laufen offiziell auf ROCm – das deckt die überwiegende Mehrheit typischer On-Premise-Inferenzprojekte ab. Auf der Advancing AI 2026 kündigte AMD zusätzlich „ROCm.ai" an, eine agentengestützte Entwicklungsplattform, die Coding-Agents wie Claude, Codex und Cursor für die GPU-Kernel-Optimierung einbindet. Das ist kein Marketing-Gag: Kernel-Portierung ist genau die Art repetitiver, gut spezifizierbarer Arbeit, bei der Agenten tatsächlich Tempo bringen.

Wo die Lücken bleiben

Realistisch betrachtet (Einschätzung aus Sekundärquellen und Projektpraxis, nicht AMD-offiziell):

• Kein direktes Äquivalent zu TensorRT-LLM. Wer seine Latenzbudgets auf TensorRT-optimierte Pfade gebaut hat, muss den Serving-Stack neu auslegen.
• FlashAttention 3 ist auf ROCm nicht in gleicher Form verfügbar. Bei langen Kontexten kostet das messbar Durchsatz.
• Handgeschriebene PTX-Kernel aus bestehenden Projekten müssen portiert werden – HIP hilft, nimmt aber nicht alle Arbeit ab.
• Trainingspfade und exotische Attention-Varianten hinken CUDA nach. Für reine Inferenz weniger kritisch, für Fine-Tuning-Vorhaben durchaus.
• Versionsverzug. Neue Modellarchitekturen erscheinen zuerst mit CUDA-Support; ROCm folgt typischerweise mit Wochen bis wenigen Monaten Abstand. Bei einem Modell, das erst vor drei Wochen veröffentlicht wurde, ist das ein reales Terminrisiko.

Hinzu kommt die Quantisierung: Etablierte Werkzeugketten für INT4/AWQ/GPTQ sind CUDA-lastig gewachsen. AMD unterstützt MXFP4 und MXFP6 nativ und sehr gut – aber der Weg von einem vorhandenen quantisierten Modell-Artefakt zu einem lauffähigen ROCm-Deployment ist selten der triviale Copy-Paste-Schritt, als der er in Präsentationen erscheint.

Die Handlungsanweisung daraus ist kurz: Vor der Bestellung Zielmodell und kompletten Zielstack auf ROCm verifizieren. Nicht nur das LLM – auch Embedding-Modell, Reranker, Guardrail-Klassifikator, Speech-Komponenten und alles, was sonst noch GPU-Zeit beansprucht.

FP64 für Misch-Workloads im Maschinenbau

Ein Sonderfall verdient Erwähnung, weil er im Mittelstand häufiger vorkommt als gedacht: Unternehmen, die Simulation und KI auf derselben Infrastruktur fahren wollen. Strömungssimulation, Finite-Elemente-Rechnung, Crash- oder Gießsimulation – all das braucht doppelte Genauigkeit, während KI-Inferenz in FP8 oder FP4 läuft.

Der MI430X ist genau dafür positioniert: 432 GB HBM4 und laut AMD-Herstellerangabe bis zu 288 TFLOPS hardwarebasierte FP64-Leistung. „Hardwarebasiert" ist dabei das operative Wort – FP64 über Emulation oder Tensor-Tricks ist eine andere Kategorie als dedizierte Rechenwerke. Für Anwender, deren Solver-Lizenzen nach Knoten abgerechnet werden, kann ein Beschleuniger, der beide Workload-Typen bedient, die Konsolidierung eines ganzen Clusters ermöglichen.

Der Dämpfer: Der Zielmarkt sind HPC und Sovereign AI. Die angekündigten Referenzsysteme sind Discovery am Oak Ridge National Laboratory und Alice Recoque bei EuroHPC/CEA – beides 2027/2028-Systeme. Breite Verfügbarkeit für normale Kunden ist realistisch 2027. Für ein Beschaffungsprojekt im laufenden Jahr ist der MI430X keine Option; man sollte ihn als Argument für die übernächste Investitionsrunde vormerken, nicht als heute bestellbare Karte einplanen.

Und für reine LLM-Inferenz ist FP64 schlicht irrelevant. Wer ausschließlich Sprachmodelle betreibt, sollte für diese Fähigkeit keinen Aufpreis zahlen.

Empfehlung für Mittelstandsprojekte

Trennen wir zunächst sauber, was in welcher Größenordnung überhaupt zur Debatte steht:

Ebene	AMD	NVIDIA	Für den Mittelstand?
Rackscale	Helios (72 × MI455X)	Vera Rubin NVL72	Nein – Hyperscaler-Klasse
Serverknoten	8 × MI355X	8 × B300 / HGX Blackwell	Ja – obere Kante
Retrofit / Einstieg	MI350P	H200 NVL, RTX-PRO-Klasse	Ja – Kernsegment
HPC + KI gemischt	MI430X (ab 2027)	Blackwell / Rubin HPC-SKUs	Später – 2027 planen

Die eigentlich interessante Neuvorstellung: MI350P

Für Mittelstandsprojekte ist nicht das Flaggschiff die Nachricht, sondern der MI350P. Er ist explizit als Retrofit-SKU für bestehende Infrastruktur ausgelegt – also für Unternehmen, die einen vorhandenen Serverraum aufrüsten statt eine neue Halle zu bauen. AMDs Claim dazu: bis zu 4,2-fach mehr Token pro Sekunde und Dollar gegenüber einer NVIDIA H200 NVL, gemessen auf Llama 3.3 70B im Online-Serving. Auch das ist eine Herstellerangabe und eine bewusst gewählte Vergleichsbasis – aber die Größenordnung ist so deutlich, dass sie eine Prüfung wert ist.

Die Entscheidungsregel

1. Standard-Inferenz, enger Zeitplan, Standardmodelle: NVIDIA bleibt der risikoärmere Pfad. Blackwell ist die breit lieferbare Generation, der Stack ist eingefahren, jeder Integrator kennt ihn. Wenn das System in zwölf Wochen produktiv sein muss, ist das nicht der Moment für Plattformwechsel.
2. Speicherdruck, Kostendruck und Zeitpuffer: AMD ernsthaft prüfen. Konkret MI355X-Knoten oder MI350P-Retrofit gegen B300 beziehungsweise RTX-PRO-Klasse rechnen – inklusive Strom, Kühlung und Rack-Platz, nicht nur Anschaffungspreis.
3. Immer: Proof of Concept auf der Zielhardware, mit dem echten Zielmodell und dem vollständigen Stack. Zwei Wochen Leihhardware kosten einen Bruchteil dessen, was eine Fehlbeschaffung kostet.
4. Nie: auf Basis von Hersteller-Folienzahlen bestellen. Weder AMDs 30 Prozent noch NVIDIAs Vergleichsgrafiken beschreiben Ihren Workload.

Der strategisch wichtigste Effekt des 23. Juli 2026 ist ohnehin ein anderer: Es gibt wieder Wettbewerb. Allein die Existenz einer belastbaren Zweitquelle verbessert Ihre Verhandlungsposition – auch dann, wenn Sie am Ende bei NVIDIA bleiben. Holen Sie beide Angebote ein. Wer die Optionen strukturiert gegeneinanderstellen will, findet im KI-Vergleich die Kriterien; für die konkrete Auslegung eines Knotens hilft unsere Seite zu On-Premise-KI-Servern.

Quellen & Primärbelege

Alle Zahlen, Fristen und Produktangaben in diesem Beitrag wurden vor der Veröffentlichung gegen die folgenden Primaerquellen geprüft.

1. newsroom.amd.com aai 2026 full stack compute agentic ai
2. ir.amd.com aai 2026 amd delivers full stack compute for the agentic ai era
3. stocktitan.net aai 2026 amd delivers full stack compute for the agentic ai 2yijj2n15pd7
4. rocm.blogs.amd.com README
5. AMD amd delivers breakthrough mlperf inference 6 0 results
6. nand-research.com amd launches helios rack scale platform mi400 series and strong partnerships
7. fierce-network.com amds helios bets ai networking open ethernet
8. fierce-network.com amd launches full stack ai compute agentic era
9. datacenterdynamics.com amd officially launches helios rackscale system with mi455x gpus venice epyc cpu
10. AMD helios
11. AMD mi430x
12. techpowerup.com amd instinct mi355x gpus surpass 1m tokens sec in mlperf 6 0

Häufig gestellte Fragen zu AMD MI400, Helios und NVIDIA Blackwell

Ist AMD 2026 eine echte Alternative zu NVIDIA?

Auf der Hardwareseite ja – MI355X bietet mit 288 GB HBM3E mehr Speicher pro Karte als ein B200. Das verbleibende Risiko liegt im Softwarestack: Prüfen Sie vor der Bestellung, ob Ihr Zielmodell und Ihre Inferenz-Engine unter ROCm produktiv laufen.

Was bringt mehr HBM konkret?

Es entscheidet, ob ein Modell auf zwei oder auf acht Karten passt. Das wirkt direkt auf Anschaffungspreis, Rack-Platz, Stromaufnahme und Interconnect-Aufwand – oft stärker als ein paar Prozent Rechenleistung.

Kann ich ein Helios-Rack im Mittelstand einsetzen?

In der Regel nicht. Ein Helios-Rack mit 72 GPUs und 18 CPUs zielt auf Hyperscaler- und Forschungsskala. Für Mittelstandsprojekte sind einzelne Knoten oder kleine Cluster die realistische Größenordnung.

Wie belastbar sind die MLPerf-Zahlen?

Sie sind belastbar, wenn man sie richtig liest. Achten Sie auf Closed- gegenüber Open-Division, auf Server- gegenüber Offline-Szenario und darauf, ob Cluster- oder Einzelknotenwerte berichtet werden.