Muse Spark Open auf zwei Mac Studio M5 Ultra: ein Terabyte Speicher, ein Modell, viele Vorbehalte

/01Was Meta am 15. Oktober veröffentlicht hat

Muse Spark Open ist Metas bisher größtes Modell mit offenen Gewichten. Der Forschungsblog vom 15. Oktober 2026 nennt 816 Milliarden Parameter insgesamt und 42 Milliarden aktive je Token, ein Kontextfenster von 1 Million Token und eine native multimodale Eingabe: Text, Bild, Video und Audio rein, Text raus. Die Modellkarte auf Hugging Face ergänzt die Architektur: ein Mixture-of-Experts-Transformer mit 62 Schichten, 256 Experten, von denen 8 je Token arbeiten, 128 Abfrage- und 16 Key-Value-Köpfen mit Kopfdimension 64, dazu ein Perception Encoder mit 1,8 Milliarden Parametern für Bild und Video.

Zwei Details der Karte sollte man kennen, bevor man rechnet. Erstens zeigt das Hub-Feld „Model size" 822 Milliarden Parameter, der Kartentext 816 Milliarden; die Differenz erklärt Meta nicht, und für die Speicherrechnung zählt ohnehin die Dateigröße. Zweitens nennt die Karte als Sprachen nur „mehr als 100" — Deutsch wird nicht eigens aufgeführt. Wer deutsche Fachtexte verarbeiten will, prüft das mit eigenen Beispielen, nicht mit der Sprachliste.

Ungewöhnlich ist die Zielplattform. Meta schreibt, das Modell sei „optimized to run on two Mac Studios with M5 Ultra using MLX", und beschreibt die beiden Rechner als ein System mit einem Terabyte gemeinsamem Speicher. Daneben nennt der Blog die üblichen Wege: Gewichte über Hugging Face, Amazon SageMaker, Google Cloud und Microsoft Foundry, Inferenz mit SGLang, vLLM, TensorRT-LLM, Transformers, Apple MLX und llama.cpp. Die Benchmark-Tabelle der Karte stammt von Meta selbst und wurde mit der höchsten Reasoning-Stufe gemessen — etwa GPQA Diamond 89,0, Terminal-Bench 2.1 76,4 und OSWorld Verified 80,4. Das sind Herstellerangaben in voller Präzision, keine Werte für eine 4-Bit-Fassung auf zwei Macs.

/02Warum zwei Mac Studio: Speicher schlägt Rechenleistung

Ein Mixture-of-Experts-Modell rechnet je Token mit wenigen Experten, muss aber alle im Speicher halten. Bei Muse Spark Open heißt das: Gerechnet wird mit 42 Milliarden Parametern, im Speicher liegen 816 Milliarden. Für die Hardware ist deshalb die Speichermenge die erste Grenze und die Rechenleistung erst die zweite. Genau dort setzt der Mac Studio an.

Apple hat den Mac Studio mit M5 Ultra am 25. August 2026 vorgestellt: bis zu 512 GB gemeinsamer Arbeitsspeicher für CPU und GPU, 1,2 TB/s Speicherbandbreite, bis zu 80 GPU-Kerne mit integrierten Neural Accelerators, Thunderbolt 5 mit bis zu 120 Gb/s und RDMA-Unterstützung, um mehrere Geräte zu einem Speicherverbund zu koppeln. Die 512-GB-Ausstattung kommt laut Apple erst Ende Oktober in den Handel; der US-Einstiegspreis des M5 Ultra liegt bei 5.499 US-Dollar, den Preis der 512-GB-Konfiguration nennt die Pressemitteilung nicht.

Zum Vergleich: Eine Rechenzentrumskarte mit 96 GB VRAM wie die RTX PRO 6000 Blackwell bringt 1.792 GB/s Bandbreite, aber eben 96 GB. Um auf ein Terabyte zu kommen, braucht man rund elf solcher Karten und einen Server, der sie aufnimmt. Zwei Mac Studio erreichen dieselbe Speichermenge auf dem Schreibtisch — mit weniger Bandbreite je Byte und ohne das, was einen Server zum Server macht. Beides ist in diesem Artikel Thema.

/03Die Speicherrechnung: 533 GB Gewichte plus KV-Cache

Die Rechnung hat zwei Posten: die Gewichte, die fest sind, und den KV-Cache, der mit Kontextlänge und Zahl der gleichzeitigen Sitzungen wächst.

Gewichte. Die 4-Bit-Fassung der mlx-community belegt nach eigener Angabe „about 533 GB" einschließlich Bildencoder — „more than the memory of a single 512 GB Mac". Dabei ist nur ein Teil wirklich 4-Bit: die gerouteten Experten der Schichten 1 bis 60. Alles andere bleibt in BF16. Diese Quantisierung ist also gemischt, und der Abstand zwischen 4-Bit-Etikett und tatsächlicher Größe kommt genau daher. Meta selbst nennt für die NVFP4-Fassung mindestens 700 GB VRAM und für BF16 rund 2 TB.

KV-Cache. Die Karte nennt 62 Schichten, 16 Key-Value-Köpfe und Kopfdimension 64, aber kein Sliding-Window-Muster. Unter der Annahme, dass alle 62 Schichten volle Attention rechnen, ergibt sich je Token: 2 (Key und Value) × 62 × 16 × 64 × 2 Byte = 253.952 Byte, rund 248 KiB in BF16. Das ist unsere Rechnung aus den Kartenwerten und eine Obergrenze — sollte Meta Schichten mit Fenster einsetzen, wird es weniger.

Zwei Abzüge fehlen in der Tabelle, weil sie nicht belegt sind: der Speicher, den macOS selbst und die übrigen Prozesse belegen, und die Grenze, bis zu der das Betriebssystem Arbeitsspeicher für die GPU freigibt. Beides muss man auf dem eigenen Gerät ablesen. Auch die Aufteilung zählt: Bei einer Kopplung zweier Rechner trägt jeder ungefähr die Hälfte der Gewichte, also rund 267 GB, und seinen Anteil am Cache. Wie die Rechenmethode für andere Modelle funktioniert, steht in KV-Cache verstehen.

/04Welche Hardwareklasse Muse Spark Open trägt

Die folgende Tabelle legt die belegten Größen neben die Hardwareklassen, die in mittelständischen Häusern tatsächlich vorkommen oder ernsthaft geplant werden. Die Spalte „Muse Spark Open" bezieht sich auf die kleinste belegte Fassung für die jeweilige Plattform.

Die Tabelle zeigt die Lücke, um die es geht. Zwischen dem, was ein typisches GPU-System im Mittelstand trägt, und dem, was Muse Spark Open braucht, liegt ein Faktor drei bis vier. Auf NVIDIA-Seite schließt diese Lücke erst ein Acht-GPU-Server der Rechenzentrumsklasse. Auf Apple-Seite schließen sie zwei Tischgeräte. Das ist der eigentliche Nachrichtenwert der Veröffentlichung: nicht das Modell, sondern dass ein Hersteller ein 816-B-Modell erstmals ausdrücklich für Hardware unterhalb der Serverklasse optimiert.

Wer auf NVIDIA bleibt, findet die Einordnung der FP4-Formate in NVFP4 auf Blackwell. Für die meisten Aufgaben, die ein Mittelständler heute mit einem Sprachmodell löst — Wissenssuche, Dokumentenprüfung, Assistenz —, reicht ein Modell aus der 192-GB-Klasse; die Frage ist dann nicht „größtes offenes Modell", sondern „bestes Modell, das wir betreiben können".

/05Zwei Macs koppeln: MLX, JACCL und RDMA über Thunderbolt

Meta liefert für den Zwei-Mac-Betrieb keinen Befehl. Belegt ist das Verfahren, mit dem MLX Rechner koppelt: mlx.launch startet einen Prozess je Gerät, das Backend JACCL spricht RDMA über Thunderbolt. Die MLX-Dokumentation nennt die Voraussetzungen ohne Umschweife: macOS 26.2 oder neuer, ein direktes Thunderbolt-Kabel zwischen jedem Gerätepaar, die Thunderbolt-Bridge abgeschaltet, jedes Kabel in einem eigenen Netz. Und RDMA lässt sich nicht aus der Ferne einschalten, „even with sudo" — es braucht einen Neustart in die macOS-Wiederherstellung.

# 1. Auf JEDEM Mac: Neustart in die Wiederherstellung, Terminal öffnen
rdma_ctl enable
# Neustart, dann prüfen – erwartet: rdma_en*-Geräte mit GUID
ibv_devices

# 2. Hostdatei für zwei Macs mit zwei Kabeln erzeugen (MLX-Werkzeug)
mlx.distributed_config --verbose \
  --hosts mac01,mac02 \
  --over thunderbolt --backend jaccl \
  --auto-setup --output muse.json

# muse.json hat dann diese Form (MLX-Doku, zwei Macs, zwei Kabel):
# [ {"ssh": "mac01", "ips": ["10.0.0.1"], "rdma": [null, ["rdma_en2", "rdma_en3"]]},
#   {"ssh": "mac02", "ips": [],           "rdma": [["rdma_en2", "rdma_en3"], null]} ]

# 3. mlx-lm ab 0.32.2 auf beiden Macs (Muse-Unterstützung seit 0.32.0)
pip install -U "mlx-lm>=0.32.2"

# 4. Verteilter Start nach dem Muster der MLX-Doku
mlx.launch --verbose --backend jaccl --hostfile muse.json -- \
  /pfad/zu/python -m mlx_lm chat \
  --model mlx-community/Muse-Spark-Open-816B-A42B-4bit

Vier Anmerkungen aus dem Betrieb. Erstens: Schritt 4 folgt dem Beispiel der MLX-Dokumentation, das dort mit DeepSeek-R1 gezeigt wird. Ob mlx-lm 0.32.2 Muse Spark Open genauso über zwei Rechner aufteilt, belegen weder Meta noch die Karte der mlx-community mit einem Befehl; das ist der erste Prüfpunkt jedes Tests. Zweitens: Die MLX-Doku warnt vor der Umgebungsvariable MLX_METAL_FAST_SYNCH=1, weil sie die GPU blockieren kann — nicht setzen, auch wenn ein Forenbeitrag mehr Tempo verspricht. Drittens: Der Schritt mit rdma_ctl braucht jemanden vor Ort an Tastatur und Bildschirm, nach jeder Neuinstallation wieder. Viertens: mlx_lm chat ist eine Sitzung im Terminal, kein Dienst. Für den Abteilungsbetrieb braucht es einen Endpunkt mit Modellbereitstellung, Authentifizierung und Protokoll — ohne Authentifizierung gehört er nicht ins Firmennetz, siehe LLMjacking stoppen.

Und Ollama? Seit Version 0.40.0 vom 25. September 2026 läuft Ollama auf Apple Silicon standardmäßig über MLX. Muse Spark Open steht in den Release-Notes bis 0.40.8 vom 21. Oktober aber nicht, und eine Kopplung zweier Rechner bietet Ollama nicht. Für dieses Modell ist MLX direkt der Weg.

/06Die Lizenz: „Built with" und die 20-Millionen-Dollar-Schwelle

Muse Spark Open steht nicht unter Apache 2.0, sondern unter der Muse Model License. Meta nennt sie selbst eine Lizenz mit „limited commercial terms". Wie sich solche Hauslizenzen von Apache 2.0 und MIT unterscheiden, zeigt der Lizenzvergleich für Open-Weight-Modelle. Drei Klauseln betreffen ein mittelständisches Haus unmittelbar:

• Namensnennung. Produkte, die mit dem Modell gebaut werden, müssen „Built with Muse Spark Open" gut sichtbar anzeigen — in der Oberfläche, der Dokumentation, auf der Website oder in den Einstellungen. Ob ein rein interner Assistent als Produkt im Sinne der Lizenz gilt, sagt der Text nicht eindeutig. In der Praxis: den Hinweis in die Oberfläche schreiben. Er kostet nichts und erspart die Auslegungsfrage.
• Umsatzschwelle. Wer das Modell in einem Model-as-a-Service-Angebot einsetzt und damit in zwölf aufeinanderfolgenden Monaten mehr als 20 Millionen US-Dollar Bruttoumsatz erzielt, muss Meta benachrichtigen und vorher einen eigenen Vertrag schließen. Interne Nutzung, Forschung und der Einbau in ein eigenes Produkt, das kein Modell-Service ist, fallen nicht darunter. Für die allermeisten Mittelständler ist die Schwelle unerreichbar — für IT-Dienstleister, die das Modell ihren Kunden als Dienst anbieten, ist sie eine Zahl, die in die Vertragsprüfung gehört.
• Nutzungsrichtlinie. Anhang A verbietet unter anderem Schadsoftware, Identitätstäuschung, Desinformation und unlizenzierte Berufsausübung und erklärt die Nutzung durch Minderjährige als nicht vorgesehen. Wer einen Assistenten für Rechts- oder Steuerfragen plant, liest die Klausel zur Berufsausübung genau.

Hinzu kommt der übliche Haftungsausschluss: „AS IS", ohne Gewähr. Ausgaben des Modells beansprucht Meta nicht. Wie sich die Muse-Lizenz in die Landschaft der offenen Lizenzen einordnet und warum „Open Weight" nicht „Open Source" heißt, zeigt der Überblick Open-Weight-Modelle 2026. Das ist keine Formsache: Eine Lizenz, die eine Umsatzschwelle kennt, kann sich mit der nächsten Fassung ändern, und die Gewichte, die man heute lädt, stehen unter der Fassung, die heute gilt. Die Lizenzdatei gehört deshalb mit Datum in die Projektakte.

/07Wann zwei Mac Studio die falsche Wahl sind

Zwei Mac Studio sind ein bemerkenswerter Weg, ein 816-B-Modell überhaupt zu starten. Als Betriebsplattform sind sie in fünf Fällen die falsche Wahl:

• Viele gleichzeitige Nutzer. Die Speicherrechnung lässt Platz für einige Sitzungen mit langem Kontext. Wie viele Token je Sekunde zwei Geräte dabei liefern, hat niemand veröffentlicht — weder Meta noch die mlx-community. Apple nennt für einen Verbund aus vier Geräten bis zu dreifach schnellere Inferenz gegenüber einem; das ist eine Herstellerangabe ohne Modellbezug. Für 50 Nutzer mit kurzer Antwortzeit braucht es Durchsatz, den man vorher misst, nicht hofft.
• Rechenzentrumsbetrieb. Ein Mac Studio hat keine Fernwartungskarte, kein redundantes Netzteil, keine Schienen fürs Rack. Der RDMA-Schalter braucht einen Menschen vor Ort. Wer das Gerät in ein Rechenzentrum stellt, plant den Zugang für Wartung und Neustart mit ein.
• Lange Prompts als Regelfall. Bei einer Million Token Kontext entscheidet die Prefill-Phase über die Zeit bis zum ersten Token. Eine belegte Messung für diese Länge auf Apple-Hardware gibt es nicht. Wer ganze Aktenbestände in einen Prompt legen will, misst das vor dem Kauf.
• Deutsch als Hauptsprache ohne Prüfung. Die Modellkarte nennt Deutsch nicht ausdrücklich. Das muss kein Mangel sein, aber es ist eine offene Frage, die mit einem eigenen Prüfsatz beantwortet werden muss.
• Modelle, die kleiner reichen. Für Wissenssuche über Firmendokumente, Ticket-Vorsortierung oder Textentwürfe ist ein Modell der 27-B-Klasse auf einer einzelnen Karte oft die bessere Antwort. Was dort heute möglich ist, steht in Qwen3.8-27B auf 24 GB.

Ehrlich: Für die Mehrheit unserer Kunden ist Muse Spark Open eine Nachricht, keine Beschaffung. Die Frage, ob ein Modell dieser Größe einen messbaren Vorteil gegenüber einem betreibbaren Modell bringt, ist offen, solange niemand die 4-Bit-Fassung gegen die eigene Aufgabe gemessen hat.

/08Entscheidung: für wen sich der Aufbau lohnt

Lohnt sich: für Entwicklungs- und Forschungsabteilungen, die ein Modell der obersten offenen Klasse lokal bewerten wollen, bevor sie über einen Acht-GPU-Server entscheiden. Zwei Mac Studio sind dann ein Prüfstand: Sie beantworten die Frage, ob Muse Spark Open für die eigene Aufgabe besser ist als ein Modell der 192-GB-Klasse, ohne dass dafür ein Serverraum umgebaut werden muss. Ebenso für kleine Teams mit hochsensiblen Daten, die wenige, aber sehr anspruchsvolle Anfragen haben — Patentanalyse, Code-Prüfung großer Bestände — und denen eine Antwortzeit von Sekunden bis Minuten genügt.

Lohnt sich nicht: als Abteilungs- oder Unternehmensdienst für Dutzende Nutzer, als Ersatz für einen Server mit Überwachung und Wartungsvertrag, und überall dort, wo ein kleineres Modell die Aufgabe nachweislich löst. Dort ist ein GPU-System mit 192 GB die tragfähigere Investition — unsere Messung mit Qwen3 27B ergab darauf 3.900 Token je Sekunde, summiert über viele parallele Anfragen. Das ist eine andere Liga beim Durchsatz, mit einem anderen Modell.

Abwarten: wer auf belastbare Durchsatzwerte für den Zwei-Mac-Betrieb wartet, auf einen dokumentierten Startbefehl von Meta oder auf unabhängige Benchmarks der 4-Bit-Fassung. Die 512-GB-Konfiguration kommt laut Apple ohnehin erst Ende Oktober in den Handel; vor Dezember wird es kaum Erfahrungsberichte aus dem Betrieb geben.

Der Weg zur Entscheidung ist in beiden Fällen derselbe: zehn typische Aufgaben aus dem eigenen Haus, einmal mit dem großen Modell, einmal mit dem betreibbaren, Antworten blind bewerten lassen. Wenn das große Modell nicht deutlich gewinnt, ist die Frage beantwortet. Eine Übersicht über Desktop-Systeme auf NVIDIA-Seite, die in dieselbe Lücke zielen, steht in DGX Spark und DGX Station.