# Mac mini vs. AMD Strix Halo: welche Plattform passt für lokale KI-Modelle?

> 128 GB Strix Halo kosten rund 29 € pro GB, der Mac mini M6 fast 70 €. Warum der Preis pro GB bei lokalen Sprachmodellen mehr zählt als jeder Benchmark.

Quelle: https://ki-minipc-vergleich.de/ratgeber/mac-mini-vs-strix-halo · Stand: 2026-11-18

Wenn du große [lokale Sprachmodelle](https://ki-minipc-vergleich.de/glossary/lokale-llms) ab etwa 70 [Milliarden Parametern](https://ki-minipc-vergleich.de/glossary/parameter) ausführen willst, fährst du mit einem [Strix-Halo-Mini-PC](https://ki-minipc-vergleich.de/glossary/strix-halo) mit 128 GB [Arbeitsspeicher](https://ki-minipc-vergleich.de/glossary/arbeitsspeicher) besser. Der Mac mini lohnt sich für kleinere Modelle, wenn dir [macOS](https://ki-minipc-vergleich.de/glossary/betriebssystem), MLX und ein leiser, sparsamer Alltag wichtiger sind als die [Modellgröße](https://ki-minipc-vergleich.de/glossary/modellgroesse). Diese Seite enthält [Amazon-Affiliate-Links](https://ki-minipc-vergleich.de/glossary/affiliate-links): Kaufst du darüber, erhalten wir eine Provision, für dich ändert sich der Preis nicht.

Bei [lokaler KI](https://ki-minipc-vergleich.de/glossary/lokale-ki) entscheidet zuerst der **Arbeitsspeicher**, welche Modelle überhaupt laufen. Rechenleistung, Software und Lautstärke kommen danach.

- **Der Arbeitsspeicher legt die Modellgröße fest:** [Bosgame M5 AI](https://ki-minipc-vergleich.de/bosgame-m5-ai-ryzen-ai-max-395-128-gb-2-tb) und [GMKtec EVO-X2](https://ki-minipc-vergleich.de/gmktec-evo-x2-ryzen-ai-max-395-128-gb-1-tb) bringen je **128 GB** mit. Der Mac mini M6 im Katalog hat **16 GB**, der Mac mini M5 Pro **24 GB**.
- **[70B-Modelle](https://ki-minipc-vergleich.de/glossary/70b-modell) brauchen 128 GB:** In der [Quantisierung](https://ki-minipc-vergleich.de/glossary/bit) Q4 belegt ein 70B-Modell rund **35 GB allein für die [Gewichte](https://ki-minipc-vergleich.de/glossary/gewichte)**. Das ist mehr, als beide Mac-mini-Konfigurationen insgesamt haben. Mit 128 GB bleibt dagegen genug Platz für ein langes [Kontextfenster](https://ki-minipc-vergleich.de/glossary/kontext).
- **Auch 128 GB haben eine Grenze:** DeepSeek V4 Flash 284B braucht in Q4 laut Minisforum etwa **144 GB**. Das ist mehr, als Bosgame M5 AI oder GMKtec EVO-X2 bieten.
- **Nachrüsten ist nicht möglich:** Auf beiden Plattformen ist der Arbeitsspeicher [fest verlötet](https://ki-minipc-vergleich.de/glossary/verloetet). **Die Speichergröße wählst du einmal beim Kauf** und behältst sie für die gesamte Lebensdauer des Geräts.
- **Der Mac punktet bei kleinen Modellen:** MLX, ein leiser Betrieb und ein macOS ohne Treiberpflege machen den Mac mini angenehm, wenn du Modelle bis etwa 14B nutzt.

### Warum die Speichermenge alles andere schlägt

Ein [Sprachmodell](https://ki-minipc-vergleich.de/glossary/sprachmodelle) muss beim Ausführen **vollständig in den schnellen Speicher passen**. Sonst bricht das Tempo ein, oder das Modell startet gar nicht. Die Rechnung ist simpel: Bei [4 Bit pro Parameter](https://ki-minipc-vergleich.de/glossary/quantisierung) brauchst du etwa einen halben Gigabyte pro Milliarde Parametern. Dazu kommen [KV-Cache](https://ki-minipc-vergleich.de/glossary/kv-cache), [Puffer](https://ki-minipc-vergleich.de/glossary/puffer) und der Bedarf des Betriebssystems. Der Mac mini M6 mit 16 GB ist deshalb klar auf kleine Modelle festgelegt. Der Mac mini M5 Pro mit 24 GB reicht für Modelle bis etwa 20B in Q4, allerdings mit knapper Reserve für Kontext und System.

Bei 70B ist auf beiden Mac-mini-Konfigurationen Schluss. **35 GB nur für die Gewichte** sind mehr, als ihr gesamter Arbeitsspeicher fasst. Selbst der Mac Studio M5 Max mit 36 GB wäre damit bis zum Rand voll, ohne Reserve für Kontext oder System. Ein Strix-Halo-Rechner mit 128 GB hält dasselbe Modell und lässt trotzdem viel Spielraum. Diesen Puffer brauchst du, wenn du lange Dokumente einliest oder mit einem großen Kontextfenster arbeitest. Der KV-Cache wächst nämlich mit jeder zusätzlichen Kontextlänge.

Die größten offenen Modelle sprengen auch Strix Halo. DeepSeek V4 Flash 284B belegt in Q4 laut Minisforum rund **144 GB**. Das passt nur auf ein Strix-Halo-System mit 192 GB, nicht auf die 128-GB-Geräte im Katalog. Wer diese Klasse lokal ausführen will, muss noch stärker quantisieren und dafür Qualität opfern oder deutlich mehr Geld ausgeben.

### Die Kaufentscheidung ist endgültig

Bei klassischen [Mini-PCs](https://ki-minipc-vergleich.de/glossary/mini-pc) rüstest du RAM-Riegel einfach nach. Das geht hier nicht. Bei Apple sitzt der gemeinsame Arbeitsspeicher direkt im Chipgehäuse, und Strix Halo nutzt verlöteten [LPDDR5X](https://ki-minipc-vergleich.de/glossary/lpddr5x). **Spätere Erweiterungen sind auf beiden Plattformen ausgeschlossen.** Plane deshalb nicht nur für die Modelle, die du heute nutzt. Offene Modelle wachsen schnell, und der Bedarf von morgen liegt meist eine Klasse höher.

Daraus folgt eine einfache Regel. Reichen dir Modelle bis etwa 14B für Chat, Textarbeit oder Programmierhilfe, bekommst du mit dem Mac mini das ruhigere und komfortablere Gerät. Willst du dagegen die Klasse von **70B bis 125B** erreichen, etwa große MoE-Modelle wie Qwen3.8-Flash-Next, führt kein Weg an 128 GB vorbei. Diese Menge bieten in diesem Vergleich zu einem bezahlbaren Preis nur Bosgame M5 AI und GMKtec EVO-X2, der [ASUS Ascent GX10](https://ki-minipc-vergleich.de/asus-ascent-gx10-gb10-grace-blackwell-128-gb-1-tb) kostet für dieselben 128 GB mehr als das Doppelte. Welche Kandidaten im Detail infrage kommen und wie schnell sie rechnen, klären die folgenden Abschnitte.

| Produkt | Unsere Bewertung | Preis | Kurz gesagt |
|---|---|---|---|
| [Bosgame M5 AI (Ryzen AI Max+ 395, 128 GB, 2 TB)](https://ki-minipc-vergleich.de/bosgame-m5-ai-ryzen-ai-max-395-128-gb-2-tb) | 4.5/5 | 3.699,00 € (Stand 2026-11-19) | 128 GB Unified Memory: 70B-LLMs in Q4 lokal ohne Grafikkarte |
| [GMKtec EVO-X2 (Ryzen AI Max+ 395, 128 GB, 1 TB)](https://ki-minipc-vergleich.de/gmktec-evo-x2-ryzen-ai-max-395-128-gb-1-tb) | 4.5/5 | 3.869,96 € (Stand 2026-11-19) | 128 GB Unified Memory für quantisierte 70B- bis 120B-Modelle auf dem Schreibtisch |
| [Apple Mac mini (M5 Pro, 24 GB, 512 GB)](https://ki-minipc-vergleich.de/apple-mac-mini-m5-pro-24-gb-512-gb) | 4.3/5 | 1.699,00 € (Stand 2026-11-19) | M5 Pro mit 307 GB/s: flotte LLMs bis Mittelklasse auf 12,7 cm |
| [ASUS Ascent GX10 (GB10 Grace Blackwell, 128 GB, 1 TB)](https://ki-minipc-vergleich.de/asus-ascent-gx10-gb10-grace-blackwell-128-gb-1-tb) | 4.3/5 | 8.505,99 € (Stand 2026-11-19) | 128 GB Unified Memory und 4 TB SSD für lokale 200B-Modelle mit CUDA |
| [Apple Mac mini (M6, 16 GB, 512 GB)](https://ki-minipc-vergleich.de/apple-mac-mini-m6-16-gb-512-gb) | 4.2/5 | 1.079,00 € (Stand 2026-11-19) | M6 mit 16 GB und 170 GB/s: kompakter Mac für kleine lokale LLMs |
| [Apple Mac Studio (M5 Max, 36 GB, 512 GB)](https://ki-minipc-vergleich.de/apple-mac-studio-m5-max-36-gb-512-gb) | 4.2/5 | 2.549,00 € (Stand 2026-11-19) | M5 Max mit 36 GB: 30B-LLMs leise lokal auf 19,7 cm |

## Unified Memory gegen Strix Halo: zwei Wege zum gemeinsamen Arbeitsspeicher

Apple und AMD verfolgen dasselbe Ziel: **[CPU](https://ki-minipc-vergleich.de/glossary/cpu) und integrierte [Grafik](https://ki-minipc-vergleich.de/glossary/gpu) greifen auf einen gemeinsamen [Arbeitsspeicher](https://ki-minipc-vergleich.de/glossary/arbeitsspeicher) zu**, statt Daten zwischen System-RAM und Grafikspeicher hin- und herzukopieren. Für [lokale KI](https://ki-minipc-vergleich.de/glossary/lokale-ki) ist das der entscheidende Punkt, denn ein [Sprachmodell](https://ki-minipc-vergleich.de/glossary/sprachmodelle) muss vollständig dort liegen, wo die GPU rechnet. Wie die beiden Hersteller den Speicher aufteilen, unterscheidet sich im Alltag aber spürbar.

### Apple: ein Speicher ohne feste Aufteilung

Beim Mac gibt es **keine feste Aufteilung zwischen CPU und GPU**. Der Unified Memory steht beiden Einheiten dynamisch zur Verfügung, und [macOS](https://ki-minipc-vergleich.de/glossary/betriebssystem) regelt selbst, wer gerade wie viel belegt. Du stellst nichts im BIOS ein und musst keine Grafikspeicher-Größe festlegen. MLX und Ollama nutzen den Speicher einfach.

Das Konzept ist elegant, die Grenze liegt bei der **Menge**. Der Mac mini M6 bringt eine 12-Core-GPU mit Neural Accelerators mit, in der verlinkten [Konfiguration](https://ki-minipc-vergleich.de/glossary/konfiguration) aber nur 16 GB, die sich Modell, macOS und offene Apps teilen. Der Mac mini M5 Pro (15-Core-CPU, 16-Core-GPU, 24 GB) ist laut PCMag in Multi-Core-Aufgaben weiterhin deutlich stärker als der M6. Bei der [Modellgröße](https://ki-minipc-vergleich.de/glossary/modellgroesse) hilft dir die zusätzliche Rechenleistung jedoch nicht, denn auch 24 GB setzen eine harte Obergrenze. Erst der Mac Studio M5 Max mit 32-Core-GPU und 36 GB schiebt diese Grenze etwas nach oben.

### AMD Strix Halo: gemeinsamer LPDDR5X-Speicher mit variabler Zuweisung

[Strix Halo](https://ki-minipc-vergleich.de/glossary/strix-halo) setzt ebenfalls auf **gemeinsamen [LPDDR5X-Speicher](https://ki-minipc-vergleich.de/glossary/lpddr5x)**, teilt ihn aber anders auf. Ein Teil wird der integrierten Grafik **als Grafikspeicher zugewiesen**, und diese Zuweisung ist variabel einstellbar. Rechnen muss dort die Radeon 8060S mit 40 GPU-Kernen, die im [Bosgame M5 AI](https://ki-minipc-vergleich.de/bosgame-m5-ai-ryzen-ai-max-395-128-gb-2-tb) und im [GMKtec EVO-X2](https://ki-minipc-vergleich.de/gmktec-evo-x2-ryzen-ai-max-395-128-gb-1-tb) jeweils neben einer 16-Core-CPU sitzt. Beide Geräte haben **128 GB**, also mehr als das Fünffache des Mac mini M5 Pro.

Wie weit sich das treiben lässt, zeigt der größere Ryzen AI Max+ PRO 495: Laut Minisforum lassen sich dort **bis zu 160 von 192 GB als Grafikspeicher zuweisen**. Diese Konfiguration bieten die beiden 128-GB-Geräte aus unserem Vergleich nicht. Sie zeigt aber, dass bei Strix Halo nur ein vergleichsweise kleiner Rest für Windows oder Linux übrig bleiben muss. Der Nachteil gegenüber Apple liegt in der Handhabung: Du legst die Aufteilung je nach Einsatz selbst fest, und wer der GPU viel zuweist, lässt dem System entsprechend wenig.

| Kriterium | Apple Unified Memory | AMD Strix Halo |
| --- | --- | --- |
| Speicherart | Unified Memory im SoC-Gehäuse | LPDDR5X, gemeinsam für CPU und iGPU |
| Aufteilung CPU/GPU | dynamisch, keine feste Grenze | variable Zuweisung als Grafikspeicher |
| Einstellaufwand | keiner, macOS regelt das selbst | Aufteilung musst du selbst festlegen |
| GPU in unseren Kandidaten | 12 Kerne (M6), 16 Kerne (M5 Pro), 32 Kerne (M5 Max) | Radeon 8060S mit 40 Kernen |
| Speicher in den verlinkten Konfigurationen | 16 GB, 24 GB oder 36 GB | 128 GB (Bosgame M5 AI, GMKtec EVO-X2) |
| Obergrenze der Plattform | laut PCMag beim M6 maximal 32 GB ab Werk | beim Ryzen AI Max+ PRO 495 bis zu 160 von 192 GB als Grafikspeicher |
| Typische Software | MLX, Ollama, llama.cpp | llama.cpp, Ollama unter Windows 11 oder Linux |

### Die praktische Folge: kein Umweg über den System-RAM

Auf beiden Plattformen gilt dasselbe Prinzip: **Passt das Modell in den Speicher, liegt es komplett im schnellen Speicher**, auf den die GPU direkt zugreift. Ganz anders sieht es bei einem klassischen PC mit einer Grafikkarte mit 32 GB aus. Ist das Modell größer, landet der Rest der [Gewichte](https://ki-minipc-vergleich.de/glossary/gewichte) im System-RAM und muss über PCIe nachgeladen werden. Genau diese Verbindung wird dann zum **Flaschenhals**, und die Antwortgeschwindigkeit hängt plötzlich nicht mehr vom schnellen Grafikspeicher ab, sondern vom langsamsten Glied der Kette.

Der Vorteil des gemeinsamen Speichers wirkt nur bis zur Kapazitätsgrenze. Mit 16 oder 24 GB im Mac mini profitierst du davon bei kleinen bis mittleren Modellen. Mit 128 GB im Bosgame M5 AI oder GMKtec EVO-X2 passt auch ein Modell der [70B-Klasse](https://ki-minipc-vergleich.de/glossary/70b-modell) in Q4 vollständig in den Grafikspeicher, ohne Auslagerung.

Die Architektur entscheidet also nicht allein. Apple bietet die bequemere Speicherverwaltung, AMD dagegen **deutlich mehr Speicher pro Gerät**. Für große Modelle zählt am Ende, ob das Modell überhaupt vollständig hineinpasst.

## Wie viel Arbeitsspeicher braucht ein lokales Sprachmodell?

Für die Frage, ob ein Modell überhaupt startet, brauchst du keine Benchmarks. Eine **Faustformel** reicht: **[Parameter](https://ki-minipc-vergleich.de/glossary/gewichte) × Bits ÷ 8 = Speicherbedarf der Gewichte in GB**. Ein 70B-Modell, also 70 Milliarden Parameter, belegt in [Quantisierung](https://ki-minipc-vergleich.de/glossary/bit) Q4 rund **35 GB** (70 × 4 ÷ 8). In Q8 sind es schon 70 GB. Ein [120B-Modell](https://ki-minipc-vergleich.de/glossary/70b-modell) braucht in Q4 etwa **60 GB**. Diese Rechnung nennt auch Minisforum in seiner Dokumentation zu lokalen [LLMs](https://ki-minipc-vergleich.de/glossary/sprachmodelle).

Das ist allerdings nur die Untergrenze. Dazu kommen der **[KV-Cache](https://ki-minipc-vergleich.de/glossary/kv-cache)**, der mit der Kontextlänge wächst, [Puffer](https://ki-minipc-vergleich.de/glossary/puffer) der Inferenz-Engine sowie [Betriebssystem](https://ki-minipc-vergleich.de/glossary/betriebssystem) und offene Programme. Ein 70B-Modell mit langem [Kontextfenster](https://ki-minipc-vergleich.de/glossary/kontext) passt deshalb nicht sinnvoll in 48 GB, obwohl die Gewichte allein hineinpassen würden. Plane grob **20 bis 30 Prozent Reserve** über den reinen Gewichten ein. Bei großen Kontexten brauchst du mehr.

- **35 GB** — Gewichte eines 70B-Modells in Q4, ohne KV-Cache und System
- **60 GB** — Gewichte eines 120B-Modells in Q4, passt nur auf 128-GB-Systeme mit Luft
- **32 GB** — höchste Werksoption beim Mac mini M6, reicht für Modelle bis etwa [30B](https://ki-minipc-vergleich.de/glossary/parameter) in Q4
- **29 € pro GB** — [Bosgame M5 AI](https://ki-minipc-vergleich.de/bosgame-m5-ai-ryzen-ai-max-395-128-gb-2-tb), der günstigste [Arbeitsspeicher](https://ki-minipc-vergleich.de/glossary/arbeitsspeicher) im Vergleich
- **72 € pro GB** — Mac Studio M5 Max, rund das 2,5-Fache

### Welche Modellklasse auf welcher RAM-Stufe läuft

| RAM-Stufe | Realistische Modellklasse (Q4) | Geräte im Vergleich |
| --- | --- | --- |
| 16 GB | 7B bis etwa 14B mit kurzem Kontext | Mac mini M6 (16 GB) |
| 24 GB | bis etwa 20B, mit knapper Reserve | Mac mini M5 Pro (24 GB) |
| 32–36 GB | bis etwa 30B mit moderatem Kontext | Mac Studio M5 Max (36 GB) |
| 128 GB | 70B mit großem Kontext, 120B- bis 125B-Klasse | Bosgame M5 AI, GMKtec EVO-X2 |

Auf der Apple-Seite ist der Spielraum eng. Laut PCMag gibt es den **M6 ab Werk nur mit 16, 24 oder 32 GB**, nachrüsten lässt sich der Speicher nicht. Selbst die 32-GB-Konfiguration reicht nur für Modelle bis etwa **30B in Q4 mit moderatem Kontext**. Die gesamte Klasse der 70B-Modelle bleibt damit außen vor. Mit dem Mac Studio M5 Max und 36 GB kommst du einen Schritt weiter, landest aber in derselben [Modellklasse](https://ki-minipc-vergleich.de/glossary/modellgroesse). Der Vorteil liegt dort eher bei Tempo und Reserve, nicht bei größeren Modellen.

Mit 128 GB ändert sich das grundlegend. Ein 70B-Modell in Q4 belegt dann gut ein Viertel des Speichers, und für einen langen KV-Cache bleibt viel Platz. Modelle der [120B-Klasse](https://ki-minipc-vergleich.de/glossary/120b-klasse) wie Qwen3.8-Flash-Next mit 125B Parametern passen in Q4 ebenfalls hinein. Bei MoE-Modellen musst du übrigens trotzdem alle Gewichte im Speicher halten, auch wenn pro [Token](https://ki-minipc-vergleich.de/glossary/tokens-pro-sekunde) nur ein kleiner Teil aktiv ist. Die geringe Zahl aktiver Parameter macht das Modell schneller, aber nicht kleiner.

### Was ein Gigabyte kostet

Teilst du den Katalogpreis durch die Speichermenge, entscheidet sich der Vergleich fast von selbst:

- **Bosgame M5 AI**: rund **29 € pro GB** (128 GB für 3.699 €), dazu 2 TB [SSD](https://ki-minipc-vergleich.de/glossary/ssd)
- **[GMKtec EVO-X2](https://ki-minipc-vergleich.de/gmktec-evo-x2-ryzen-ai-max-395-128-gb-1-tb)**: rund **30 € pro GB** (128 GB für 3.869,96 €), mit 1 TB SSD
- **Mac mini M6**: rund **68 € pro GB** (16 GB für 1.088 €)
- **Mac mini M5 Pro**: rund **71 € pro GB** (24 GB für 1.699 €)
- **Mac Studio M5 Max**: rund **72 € pro GB** (36 GB für 2.599 €)

Beim Arbeitsspeicher pro Euro liefern die beiden [Strix-Halo-Rechner](https://ki-minipc-vergleich.de/glossary/strix-halo) also mehr als doppelt so viel wie jeder Mac. Für [lokale KI](https://ki-minipc-vergleich.de/glossary/lokale-ki) ist das der wichtigste Wert. Ein Mac mit 128 GB ist in diesem Vergleich gar nicht erhältlich. Der Mac Studio M5 Max kostet dagegen nur rund 1.100 € weniger als der Bosgame M5 AI und bietet weniger als ein Drittel des Speichers.

**Speicherpreise steigen gerade**

Laut TechRadar verteuert eine anhaltende weltweite Knappheit bei RAM und SSDs [Mini-PCs](https://ki-minipc-vergleich.de/glossary/mini-pc) derzeit spürbar und macht gute Angebote selten. [Konfigurationen](https://ki-minipc-vergleich.de/glossary/konfiguration) mit viel Speicher trifft das besonders, weil dort der RAM den größten Teil der Kosten ausmacht. Wenn du ein 128-GB-System zu einem fairen Preis findest, solltest du nicht zu lange auf weitere Rabatte warten.

## Tempo: Prompt-Verarbeitung und Token-Generierung

Ob dir ein [lokales Sprachmodell](https://ki-minipc-vergleich.de/glossary/lokale-sprachmodelle) „schnell“ vorkommt, hängt von zwei Phasen ab, die von unterschiedlichen Bauteilen gebremst werden. Beim **Einlesen des Prompts** (Prefill) verarbeitet das Modell alle Eingabe-Token auf einmal. Das sind große Matrixrechnungen, und hier zählt die **GPU-Rechenleistung**. Bei der **Ausgabe** (Decode) entsteht dagegen jedes Token einzeln. Dafür müssen alle aktiven Gewichte erneut aus dem Arbeitsspeicher gelesen werden, deshalb bestimmt vor allem die **Speicherbandbreite**, wie viele Tokens/s du siehst.

| Phase | Was passiert | Hauptbremse | Spürbar bei |
| --- | --- | --- | --- |
| Prompt-Verarbeitung | Ganzer Eingabetext wird parallel berechnet | GPU-Rechenleistung (iGPU bzw. GPU-Kerne) | langen Dokumenten, großem Kontextfenster, Agenten mit vielen Tool-Antworten |
| Token-Generierung | Jedes neue Token liest die aktiven Gewichte | Speicherbandbreite in GB/s | Chat, Mitlesen, lange Antworten |
| Beides | Modellgröße und Anteil aktiver Parameter | Architektur (dicht oder MoE) | allen Workloads |

Daraus folgt eine Regel, die beim Kauf hilft: **Mehr Arbeitsspeicher macht ein Modell erst möglich, aber nicht schneller.** Ein 128-GB-System wie der [Bosgame M5 AI](https://ki-minipc-vergleich.de/bosgame-m5-ai-ryzen-ai-max-395-128-gb-2-tb) oder der [GMKtec EVO-X2](https://ki-minipc-vergleich.de/gmktec-evo-x2-ryzen-ai-max-395-128-gb-1-tb) lädt Modelle, die auf dem Mac mini gar nicht starten würden. Wie flott sie dann antworten, entscheidet die Bandbreite. Wie lange du bei einem 50-seitigen PDF auf die erste Zeile wartest, entscheidet die Radeon 8060S.

### Was veröffentlichte Messungen zeigen

Das deutlichste Beispiel für die Bandbreitengrenze liefert **Minisforum selbst**: Auf einem Strix-Halo-System mit 192 GB LPDDR5X erzeugte **DeepSeek V4 Flash 284B** (MoE, Q4, rund 144 GB Modellspeicher) laut Hersteller **12,35 Tokens/s**. Das ist etwas schneller, als die meisten Menschen lesen, und zum Mitlesen im Chat brauchbar. Für **Agenten-Workflows** ist es zäh, denn dort erzeugt das Modell zwischen jedem Werkzeugaufruf Hunderte Token Planungstext und liest anschließend lange Tool-Ausgaben ein. Jeder Schritt dauert dann spürbar. Auf die 128-GB-Geräte lässt sich der Wert nicht direkt übertragen, denn dort passt dieses Modell in Q4 gar nicht hinein.

Wie stark die Architektur das Tempo verschiebt, zeigt **Qwen3.8-Flash-Next**. Das Modell hat 125 Milliarden Parameter, nutzt pro Token aber nur **rund 6 Mrd. aktive Parameter** (10 von 512 Experten pro Schicht). Pro Ausgabe-Token muss also nur ein Bruchteil der Gewichte durch die Speicherleitung, deshalb läuft es trotz seiner Größe flott. Für llama.cpp gibt es seit dem **Update vom 4. November** die Dynamic-v3.1-GGUF-Quants von Unsloth. Laut Projektseite bringt die mitgelieferte **MTP-Schicht** (Multi-Token-Prediction) zusätzlich einen Schub um den **Faktor 1,3 bis 1,7**, weil mehrere Token pro Durchlauf vorgeschlagen und geprüft werden. Das setzt genau bei der Token-Generierung an, also dort, wo die Speicherbandbreite Strix Halo am stärksten bremst.

Zum Vergleich mit einer klassischen Gaming-Karte: Laut einem Erfahrungsbericht auf **dev.to** erreicht Qwen3.8-Flash-Next auf einer **RTX 5090** (32 GB) mit 64 GB DDR5 rund **50 Tokens/s** bei einem Kontextfenster von 262.144 Token. Dafür wurde allerdings eine stark komprimierte 3,05-bpw-Quantisierung genutzt, die etwa 26 GB Grafikspeicher und zusätzlich **rund 43 GB System-RAM** belegt. Ein solcher Rechner kostet mit Karte, Netzteil und Gehäuse deutlich mehr als ein Mini-PC und braucht weit mehr Platz und Strom. Die Strix-Halo-Geräte halten das ganze Modell dagegen am Stück im gemeinsamen Arbeitsspeicher, ohne dass Daten zwischen Grafikkarte und System-RAM pendeln müssen.

### Und der Mac?

Apples Chips arbeiten nach demselben Prinzip: Unified Memory mit hoher Bandbreite sorgt bei kleinen und mittleren Modellen für eine flüssige Ausgabe, MLX nutzt die GPU-Kerne effizient für die Prompt-Verarbeitung. Bei Qwen3.8-Flash-Next ist allerdings vorher Schluss: Der Mac mini M6 mit **16 GB** und der Mac mini M5 Pro mit **24 GB** haben schlicht zu wenig Speicher, um das Modell überhaupt zu laden. Auch der Mac Studio M5 Max mit 36 GB liegt weit unter dem Bedarf. Bei Apple ist Tempo deshalb ein Thema für Modelle bis etwa 30B, bei Strix Halo für die Klasse darüber.

**Profi-Tipp**

Achte bei Messungen immer darauf, welche Phase gemeint ist. Viele Angaben nennen nur die **Tokens/s bei der Ausgabe**. Wenn du mit langen Dokumenten, Codebasen oder Agenten arbeitest, ist die **Prompt-Verarbeitung** oft der größere Zeitfresser. Halte das Kontextfenster in llama.cpp oder Ollama deshalb so klein, wie dein Workflow es erlaubt, und wähle bei gleichem Speicherbudget lieber ein **MoE-Modell mit wenigen aktiven Parametern** als ein dichtes 70B-Modell. Auf Bosgame M5 AI und GMKtec EVO-X2 bringt das spürbar mehr als jede Feineinstellung.

## Software, Einrichtung und Zweitnutzung

Die Hardware legt fest, welches Modell in den Speicher passt. Die Software bestimmt, wie viel Arbeit du investieren musst, bis die ersten Token pro Sekunde laufen, und was der Rechner sonst noch kann. Hier unterscheiden sich die beiden Lager deutlicher als bei den Datenblättern.

### Mac: MLX und Ollama ohne Treiberarbeit

Auf dem Mac mini M6, dem Mac mini M5 Pro und dem Mac Studio M5 Max gibt es **keine Treiberfrage**. Apples Framework MLX nutzt den gemeinsamen Arbeitsspeicher direkt. Ollama und LM Studio installierst du wie jede andere App, und das Modell läuft danach auf der GPU. Du musst nicht entscheiden, welches Backend du nimmst, und du musst keinen Kernel anpassen. Wer abends ein Modell ausprobieren will, statt ein Wochenende lang ein System einzurichten, bekommt hier den kürzesten Weg.

Der Preis dafür ist ein **geschlossenes System**. macOS lässt sich nicht durch Linux ersetzen, und Docker-Container laufen nur in einer virtuellen Maschine ohne direkten GPU-Zugriff. Für einen **Heimserver rund um die Uhr** ist der Mac trotzdem stark. Er arbeitet leise, und sein **Stromverbrauch im Leerlauf ist niedrig**. Gerade wenn Ollama dauerhaft als lokale API im Heimnetz bereitstehen soll und die meiste Zeit auf Anfragen wartet, zählt dieser Leerlauf auf der Stromrechnung mehr als die Spitzenlast.

### Strix Halo: freie Wahl, mehr Handarbeit

Der [Bosgame M5 AI](https://ki-minipc-vergleich.de/bosgame-m5-ai-ryzen-ai-max-395-128-gb-2-tb) und der [GMKtec EVO-X2](https://ki-minipc-vergleich.de/gmktec-evo-x2-ryzen-ai-max-395-128-gb-1-tb) kommen **ab Werk mit Windows 11**. Linux kannst du frei aufspielen. Damit stehen dir Docker mit GPU-Durchreichung, Proxmox oder eine schlanke Server-Distribution offen. Die Radeon 8060S taugt außerdem zum **Spielen**. Ein Gerät kann so tagsüber ein 70B-Modell bedienen und abends am Fernseher als Spielrechner dienen. Diese **Zweitnutzung** bietet der Mac in dieser Form nicht.

Der Haken liegt bei der **Treiberreife**. In llama.cpp ist das Vulkan-Backend auf Strix Halo oft das unkompliziertere und teils das schnellere. Der **ROCm-Support hinkt teilweise hinterher**: Nicht jede Version unterstützt die iGPU offiziell, und manche Funktionen kommen später an. Hinzu kommt die GPU-Zuweisung des gemeinsamen Speichers, die du je nach System im BIOS oder per Kernel-Parameter einstellst. Rechne also mit einem Abend Einrichtung und gelegentlicher Pflege nach Updates.

| Kriterium | Mac (macOS) | Strix Halo (Windows 11 / Linux) |
| --- | --- | --- |
| Inferenz-Software | MLX, Ollama, LM Studio, llama.cpp mit Metal | llama.cpp (Vulkan oder ROCm), Ollama, LM Studio |
| Treiberaufwand | keiner | Wahl des Backends, ROCm-Version, GPU-Zuweisung |
| Betriebssystem | nur macOS | Windows 11 ab Werk, Linux frei wählbar |
| Docker / Container | nur per virtueller Maschine, ohne GPU-Zugriff | nativ unter Linux, mit GPU |
| Zweitnutzung | Kreativ-Apps, Alltag | Gaming, Heimserver, Virtualisierung |
| Dauerbetrieb | leise, sparsam im Leerlauf | möglich, je nach Kühlung lauter |

### Neue Engines kommen zuerst für diskrete GPUs

Wie schnell neue Projekte entstehen, zeigt Strata. Die Open-Source-Engine ist ausschließlich auf Qwen3.8-Flash-Next zugeschnitten. Ihr erster Release erschien am **24.09.2026**, und laut heise sammelte sie in zwei Wochen **19.000 GitHub-Sterne**. Als Mindestausstattung nennt heise eine **GPU mit 12 GB VRAM plus 32 GB Arbeitsspeicher**. Strata zielt damit klar auf diskrete Grafikkarten, typischerweise von Nvidia.

Weder Strix Halo noch der Mac sind die primäre Zielplattform solcher Projekte. Strix Halo profitiert allerdings, sobald eine Engine Vulkan oder ROCm unterstützt. Auf dem Mac musst du meist warten, bis jemand einen Metal- oder MLX-Port nachreicht. Wer neue Modelle und Werkzeuge früh ausprobieren will, ist mit Linux auf Strix Halo näher dran. Wer lieber stabile, bewährte Werkzeuge nutzt, verpasst auf dem Mac wenig, denn Ollama und MLX ziehen bei populären Modellen in der Regel nach.

**Mac mini und Mac Studio**

**Vorteile**
- MLX und Ollama laufen sofort, ohne Treiber oder Wahl des Backends
- Leise und sparsam im Leerlauf, ideal als Heimserver rund um die Uhr
- Updates verändern die KI-Umgebung selten

**Nachteile**
- macOS ist geschlossen, Linux lässt sich nicht installieren
- Docker nur ohne GPU-Zugriff
- Neue Engines wie Strata kommen meist später oder gar nicht

**Bosgame M5 AI und GMKtec EVO-X2**

**Vorteile**
- Windows 11 ab Werk, Linux frei wählbar
- Docker mit GPU, Virtualisierung und Gaming auf der Radeon 8060S
- Profitiert schneller von neuen Open-Source-Werkzeugen

**Nachteile**
- ROCm-Support hinkt Vulkan in llama.cpp teils hinterher
- Mehr Einrichtungsaufwand, etwa für die GPU-Zuweisung des gemeinsamen Speichers
- Updates können eine funktionierende Umgebung beschädigen

## Fazit: welche Plattform passt zu dir?

Eine Rangliste wäre hier irreführend. Ein Mac mini M6 ist nicht „schlechter“ als ein [Bosgame M5 AI](https://ki-minipc-vergleich.de/bosgame-m5-ai-ryzen-ai-max-395-128-gb-2-tb), er löst eine andere Aufgabe. Entscheidend ist, **welche Modellgröße du realistisch ausführen willst**. Daraus ergibt sich die nötige Menge an Arbeitsspeicher, und daraus folgt fast automatisch die Plattform.

| Dein Profil | Typische Modelle | Passende Geräte | Wichtigster Grund |
| --- | --- | --- | --- |
| Einsteiger unter macOS, Alltag plus etwas lokale KI | bis etwa 14B in Q4 bis Q8 | Mac mini M6 | sparsam, leise, MLX ohne Einrichtung |
| Kreative mit MLX-Workflow | 14B bis gut 30B, längeres Kontextfenster | Mac mini M5 Pro, Mac Studio M5 Max | 24 bzw. 36 GB und deutlich mehr GPU-Leistung |
| Power-User, Linux und Docker, nebenbei Gaming | 70B dicht, 125B-MoE wie Qwen3.8-Flash-Next | Bosgame M5 AI, GMKtec EVO-X2 | 128 GB gemeinsamer Arbeitsspeicher zu rund 29–30 € pro GB |

**Mac mini M6: der sparsame Einstieg.** Mit 16 GB Unified Memory für 1.088 € passen Modelle bis etwa **14B** gut in den Speicher. In Q4 belegen deren Gewichte rund 7 GB, sodass genug Platz für macOS, Browser und ein brauchbares Kontextfenster bleibt. Als leiser Allrounder für Büro, Fotobearbeitung und einen lokalen Assistenten ist er stimmig. Für 70B-Modelle mit ihren rund 35 GB reinen Gewichten fehlt ihm jedoch schlicht der Platz. Daran ändert auch die beste Quantisierung nichts.

**Mac mini M5 Pro oder Mac Studio M5 Max: für den MLX-Alltag.** Wenn du mit MLX Texte, Code oder Bildbeschreibungen erzeugst und nebenbei Video schneidest, bringen dir die 24 GB im Mac mini M5 Pro (1.699 €) und die 36 GB im Mac Studio M5 Max (2.599 €) spürbar mehr Luft. Für eine Q4-Version eines 70B-Modells reichen aber auch 36 GB nicht. Dafür zahlst du beim Mac Studio pro GB ein Vielfaches dessen, was die Strix-Halo-Geräte verlangen.

**Bosgame M5 AI oder [GMKtec EVO-X2](https://ki-minipc-vergleich.de/gmktec-evo-x2-ryzen-ai-max-395-128-gb-1-tb): für große Modelle.** Hier beginnt die Klasse, die mit Apple-Hardware zu diesen Preisen nicht erreichbar ist. Mit 128 GB laufen **70B-Modelle und 125B-MoE-Modelle** wie Qwen3.8-Flash-Next vollständig im schnellen Speicher. Dazu kommen Linux, Docker-Container und Spiele auf der Radeon 8060S. Technisch sind beide nahezu gleich, denn sie nutzen denselben Ryzen AI Max+ 395. Der Bosgame M5 AI bringt für 3.699 € aber **2 TB SSD** mit. Der GMKtec EVO-X2 kostet mit 1 TB rund 170 € mehr. Wer viele Modelldateien mit jeweils 40 bis 70 GB sammelt, merkt diesen Unterschied schnell.

**Gut für**
- Mac mini M6: macOS-Nutzer, die Modelle bis 14B lokal ausführen und einen leisen, sparsamen Rechner für alles andere wollen
- Mac mini M5 Pro / Mac Studio M5 Max: Kreative mit MLX-Workflow, die 24 bis 36 GB und mehr GPU-Leistung brauchen
- Bosgame M5 AI / GMKtec EVO-X2: alle, die 70B- bis 125B-MoE-Modelle unter Linux oder Windows ausführen, mit Docker arbeiten oder nebenbei spielen

**Nicht für**
- Mac mini M6: wer 70B-Modelle oder lange Kontexte mit großen Modellen plant
- Apple-Geräte allgemein: wer viel Arbeitsspeicher pro Euro sucht oder Linux braucht
- Strix-Halo-Geräte: wer nur kleine Modelle nutzt und einen möglichst leisen, sparsamen Rechner ohne Einrichtungsaufwand will

**Zukunftssicherheit: Später aufrüsten geht nicht**

Weil sich der Speicher nicht erweitern lässt, lohnt der Blick nach vorn. Der Markt wächst: Seit Oktober drängt Nvidias **RTX Spark N1X** mit 24 bis 128 GB Unified Memory, bis zu 96 GB davon als Grafikspeicher, und Windows 11 on Arm als dritter Weg in die Mini-PCs. Die Modelle werden eher größer als kleiner. Kauf deshalb lieber **eine RAM-Stufe zu viel als eine zu wenig**. Der Aufpreis tut einmal weh, ein zu kleines Gerät dagegen bei jedem neuen Modell.

Schwankst du zwischen zwei Stufen, rechne mit der Faustformel von oben: Gewichte in Q4 plus 20 bis 30 Prozent Reserve für KV-Cache und System. Liegt das Ergebnis über 36 GB, bleibt nur Strix Halo mit 128 GB.

## Häufige Fragen

### Reichen 32 GB Arbeitsspeicher für Qwen3.8-Flash-Next?
Nur knapp und mit klaren Abstrichen. heise nennt für die neue Engine Strata als **absolutes Minimum eine GPU mit 12 GB Grafikspeicher plus 32 GB System-RAM**. In diesem Aufbau kamen zwar 40 bis 60 Token pro Sekunde zustande, allerdings nur mit einer **stark geschrumpften Variante und deutlich sichtbarem Qualitätsverlust**. Gute Ergebnisse lieferte erst ein Aufbau mit 64 GB RAM und 24 GB Grafikspeicher.

Bei Unified Memory musst du anders rechnen. Die 32 GB eines [Minisforum AI X1 Pro](https://ki-minipc-vergleich.de/minisforum-ai-x1-pro-ryzen-ai-9-hx-370-32-gb-1-tb) oder eines voll ausgebauten Mac mini M6 teilen sich CPU, GPU und Betriebssystem. Das liegt **unter den rund 44 GB**, die das heise-Minimum aus Grafik- und Systemspeicher zusammen ergibt. Empfohlen sind **48 bis 64 GB**. Wer dieses Modell gezielt nutzen will, landet damit praktisch beim [Bosgame M5 AI](https://ki-minipc-vergleich.de/bosgame-m5-ai-ryzen-ai-max-395-128-gb-2-tb) oder beim [GMKtec EVO-X2](https://ki-minipc-vergleich.de/gmktec-evo-x2-ryzen-ai-max-395-128-gb-1-tb) mit 128 GB.

### Lohnt sich der ASUS Ascent GX10 gegenüber einem Strix-Halo-Rechner?
Für die meisten nicht. Der [ASUS Ascent GX10](https://ki-minipc-vergleich.de/asus-ascent-gx10-gb10-grace-blackwell-128-gb-1-tb) mit GB10 Grace Blackwell bietet wie die beiden Strix-Halo-Geräte **128 GB gemeinsamen Arbeitsspeicher**, kostet mit 8.505,99 € aber **mehr als das Doppelte** des Bosgame M5 AI für 3.699 €. Bei der Frage, welche Modellgröße überhaupt in den Speicher passt, kaufst du mit dem Aufpreis also keine zusätzliche Klasse.

Sinnvoll ist der GX10, wenn deine Arbeit **zwingend CUDA voraussetzt**. Das betrifft etwa Trainings- oder Fine-Tuning-Skripte, Forschungscode oder Firmenumgebungen, die fest auf Nvidia ausgelegt sind. Willst du dagegen nur Modelle per llama.cpp oder Ollama ausführen, deckt Strix Halo das zum deutlich niedrigeren Preis ab.

### Spielt die NPU für lokale Sprachmodelle eine Rolle?
Kaum. Die gängigen Werkzeuge **llama.cpp, Ollama und MLX rechnen auf der integrierten Grafik (iGPU) beziehungsweise der GPU**. Die NPU bleibt dabei weitgehend ungenutzt, sowohl die Neural Engine im Mac als auch der KI-Beschleuniger im Ryzen AI Max+ 395. Hohe TOPS-Werte auf dem Datenblatt sagen deshalb wenig darüber aus, wie schnell ein 70B-Modell antwortet.

Nützlich ist die NPU eher für kleine, dauerhaft laufende Aufgaben im Betriebssystem, etwa Bildeffekte in Videocalls oder Transkription. Kaufentscheidend ist sie bei LLMs nicht. Achte lieber auf **Arbeitsspeicher und Speicherbandbreite**.

### Kann ich den Arbeitsspeicher später aufrüsten?
Nein, weder beim Mac noch bei Strix Halo. Apples Unified Memory sitzt direkt beim Chip. Der LPDDR5X-Speicher der Strix-Halo-Rechner ist fest verlötet, weil er nur so die nötige Bandbreite erreicht. Wer mit größeren Modellen liebäugelt, sollte deshalb **lieber eine Stufe mehr nehmen**, statt später das ganze Gerät zu tauschen.

### Wie stark verlieren die Geräte an Wert?
**Macs halten ihren Wert traditionell besser** als Windows-Mini-PCs. Ein Mac mini M5 Pro oder ein Mac Studio M5 Max lässt sich nach zwei, drei Jahren meist zu einem ordentlichen Anteil des Kaufpreises weiterverkaufen, weil der Gebrauchtmarkt groß ist und Apple die Geräte lange mit Updates versorgt.

Bei Strix Halo ist die Lage gerade ungewöhnlich. TechRadar berichtet von einer **anhaltenden weltweiten Knappheit bei RAM und SSDs**, die Mini-PCs verteuert. Davon profitieren vor allem die **großen Speicherstufen mit 128 GB**, denn sie sind schwer zu bekommen und für lokale KI gefragt. Wie lange dieser Effekt anhält, hängt davon ab, wann sich die Lieferketten entspannen. Als Wertanlage solltest du keines der Geräte kaufen.

### Woher stammen die Messwerte in diesem Vergleich?
Die Zahlen zum Speicherbedarf und zum Tempo von DeepSeek V4 Flash 284B stammen aus **Herstellerangaben von Minisforum** zu einem Strix-Halo-System. Die Werte zu Qwen3.8-Flash-Next und Strata kommen von **heise** und **dev.to**. Ausstattung und Leistungseinordnung der Mac-mini-Modelle stammen von **PCMag**, die Einordnung des Bosgame M5 von **Notebookcheck**, die Marktlage von **TechRadar**.

Herstellerangaben sind meist unter günstigen Bedingungen entstanden. Rechne deshalb im Alltag mit etwas weniger Tempo, vor allem bei langen Kontextfenstern.
