# LokalKI-Rechner

> Ein 70B-Modell in Q4 braucht rund 35 GB nur für die Gewichte. Hier findest du die Mini-PCs, deren Arbeitsspeicher dafür wirklich reicht.

Quelle: https://ki-minipc-vergleich.de/ · Stand: 2026-11-18

Ob ein Mini-PC für [lokale KI](https://ki-minipc-vergleich.de/glossary/lokale-ki) taugt, entscheidet vor allem sein [Arbeitsspeicher](https://ki-minipc-vergleich.de/glossary/arbeitsspeicher). Schon ein [70B-Modell](https://ki-minipc-vergleich.de/glossary/70b-modell) sprengt in [4-Bit-Quantisierung](https://ki-minipc-vergleich.de/glossary/quantisierung) jeden Rechner mit 32 GB. Deshalb ist ein Gerät mit 24 GB eine ganz andere Klasse als eines mit 128 oder 192 GB Unified Memory. Hier vergleichen wir [Mini-PCs](https://ki-minipc-vergleich.de/glossary/mini-pc) vom Einstieg unter 700 € bis zur Strix-Halo-Workstation, die ein [LLM](https://ki-minipc-vergleich.de/glossary/sprachmodelle) lokal ausführen sollen. Die Auswahl stützt sich auf Herstellerdaten und unabhängige Bewertungen etwa von heise, Notebookcheck und [CHIP](https://ki-minipc-vergleich.de/glossary/chip). Entscheidend sind dabei drei Kriterien: Speichermenge, [Speicherbandbreite](https://ki-minipc-vergleich.de/glossary/speicherbandbreite) und Aufrüstbarkeit.

| Produkt | Unsere Bewertung | Preis | Kurz gesagt |
|---|---|---|---|
| [Bosgame M5 AI (Ryzen AI Max+ 395, 128 GB, 2 TB)](https://ki-minipc-vergleich.de/bosgame-m5-ai-ryzen-ai-max-395-128-gb-2-tb) | 4.5/5 | 3.699,00 € (Stand 2026-11-19) | 128 GB Unified Memory: 70B-LLMs in Q4 lokal ohne Grafikkarte |
| [GMKtec EVO-X2 (Ryzen AI Max+ 395, 128 GB, 1 TB)](https://ki-minipc-vergleich.de/gmktec-evo-x2-ryzen-ai-max-395-128-gb-1-tb) | 4.5/5 | 3.869,96 € (Stand 2026-11-19) | 128 GB Unified Memory für quantisierte 70B- bis 120B-Modelle auf dem Schreibtisch |
| [Apple Mac Studio (M5 Max, 36 GB, 512 GB)](https://ki-minipc-vergleich.de/apple-mac-studio-m5-max-36-gb-512-gb) | 4.2/5 | 2.549,00 € (Stand 2026-11-19) | M5 Max mit 36 GB: 30B-LLMs leise lokal auf 19,7 cm |
| [Apple Mac mini (M5 Pro, 24 GB, 512 GB)](https://ki-minipc-vergleich.de/apple-mac-mini-m5-pro-24-gb-512-gb) | 4.3/5 | 1.699,00 € (Stand 2026-11-19) | M5 Pro mit 307 GB/s: flotte LLMs bis Mittelklasse auf 12,7 cm |
| [ASUS Ascent GX10 (GB10 Grace Blackwell, 128 GB, 1 TB)](https://ki-minipc-vergleich.de/asus-ascent-gx10-gb10-grace-blackwell-128-gb-1-tb) | 4.3/5 | 8.505,99 € (Stand 2026-11-19) | 128 GB Unified Memory und 4 TB SSD für lokale 200B-Modelle mit CUDA |
| [Minisforum AI X1 Pro (Ryzen AI 9 HX 370, 32 GB, 1 TB)](https://ki-minipc-vergleich.de/minisforum-ai-x1-pro-ryzen-ai-9-hx-370-32-gb-1-tb) | 4.1/5 | 1.359,00 € (Stand 2026-11-19) | 32 GB DDR5 und OCuLink: lokale LLMs bis rund 30B, per eGPU erweiterbar |
| [Minisforum UM880 Plus (Ryzen 7 8845HS, 16 GB, 512 GB)](https://ki-minipc-vergleich.de/minisforum-um880-plus-ryzen-7-8845hs-16-gb-512-gb) | 3.9/5 | 699,00 € (Stand 2026-11-19) | Ryzen 7 8845HS mit OCuLink: kleine LLMs ab Werk, größere später per eGPU |

## Wie viel Arbeitsspeicher braucht ein lokales Sprachmodell?

Die gute Nachricht: Den Speicherbedarf rechnest du in zehn Sekunden selbst aus. Die Faustregel lautet **Gewichte ≈ [Parameter](https://ki-minipc-vergleich.de/glossary/gewichte) × Bits ÷ 8**. Ein Modell mit 70 [Milliarden Parametern](https://ki-minipc-vergleich.de/glossary/parameter) (70B) braucht bei einer **[Quantisierung](https://ki-minipc-vergleich.de/glossary/bit) auf 4 Bit (Q4)** also rund 70 × 4 ÷ 8 = **35 GB** nur für die Gewichte. Ein [120B-Modell](https://ki-minipc-vergleich.de/glossary/70b-modell) kommt auf etwa **60 GB**.

Damit ist es aber nicht getan. Zu den Gewichten kommen der **[KV-Cache](https://ki-minipc-vergleich.de/glossary/kv-cache)**, der mit dem [Kontextfenster](https://ki-minipc-vergleich.de/glossary/kontext) wächst, außerdem [Puffer](https://ki-minipc-vergleich.de/glossary/puffer) der Inferenz-Software und das [Betriebssystem](https://ki-minipc-vergleich.de/glossary/betriebssystem). Plane deshalb immer einen spürbaren Aufschlag ein, und einen größeren, wenn du lange Dokumente oder ganze Codebasen in den Kontext lädst.

| Modellgröße | Gewichte in Q4 | Gewichte in Q8 | Sinnvolle RAM-Klasse (Q4) |
| --- | --- | --- | --- |
| 8B | ca. 4 GB | ca. 8 GB | ab 16 GB |
| 32B | ca. 16 GB | ca. 32 GB | ab 32 GB |
| 70B | ca. 35 GB | ca. 70 GB | ab 64 GB |
| 120B | ca. 60 GB | ca. 120 GB | 96 bis 128 GB |
| 284B (MoE) | ca. 144 GB | – | 192 GB |

Die Werte für die Gewichte ergeben sich direkt aus der Formel. Die RAM-Klassen sind Richtwerte mit Reserve für Kontext und System. Bei [Unified Memory](https://ki-minipc-vergleich.de/glossary/arbeitsspeicher) teilen sich [CPU](https://ki-minipc-vergleich.de/glossary/cpu) und [GPU](https://ki-minipc-vergleich.de/glossary/gpu) denselben Speicher, und das Betriebssystem bekommt seinen Anteil davon.

- **35 GB** – Gewichte eines 70B-Modells in Q4. Mit 32 GB RAM bist du raus, 64 GB sind die realistische Untergrenze.
- **60 GB** – Gewichte eines 120B-Modells in Q4. Das passt erst ab der 96-GB- bis 128-GB-Klasse sauber.
- **144 GB** – Speicherbedarf von DeepSeek V4 Flash 284B (MoE) in Q4 laut Minisforum.
- **12,35 [Tokens/s](https://ki-minipc-vergleich.de/glossary/tokens-pro-sekunde)** – Generierungstempo dieses Modells auf dem Minisforum MS-S1 MAX-P495 mit 192 GB.

Das DeepSeek-Beispiel zeigt die Obergrenze dessen, was heute in einen [Mini-PC](https://ki-minipc-vergleich.de/glossary/mini-pc) passt. Ein Modell mit 284 Milliarden Parametern läuft lokal und in brauchbarem Lesetempo. Möglich ist das aber nur, weil der MS-S1 MAX-P495 **192 GB [LPDDR5X](https://ki-minipc-vergleich.de/glossary/lpddr5x)** mitbringt, von denen bis zu 160 GB als Grafikspeicher zugewiesen werden können. Mit 128 GB käme dieses Modell in Q4 gar nicht erst in den Speicher.

Für die Inferenz-Engine Strata mit Qwen3.8-Flash-Next nennt heise als Mindestausstattung **12 GB VRAM und 32 GB RAM**. Auf diesem Minimum lief allerdings nur eine stark geschrumpfte Variante, und die Qualität litt deutlich. **Gute Ergebnisse gab es erst mit 64 GB RAM und 24 GB VRAM.** Kauf also nach der empfohlenen [Ausstattung](https://ki-minipc-vergleich.de/glossary/konfiguration), nicht nach der kleinsten Zahl im Datenblatt.

**Kurz gesagt:** Entscheide zuerst, welche [Modellgröße](https://ki-minipc-vergleich.de/glossary/modellgroesse) du nutzen willst, und rechne dann die Gewichte plus Reserve aus. Erst danach kommt der Preis ins Spiel. Ein Mini-PC, der dein Wunschmodell nicht in den Speicher bekommt, ist für [lokale KI](https://ki-minipc-vergleich.de/glossary/lokale-ki) kein Schnäppchen, egal wie günstig er ist.

| Produkt | Unsere Bewertung | Preis | Kurz gesagt |
|---|---|---|---|
| [Bosgame M5 AI (Ryzen AI Max+ 395, 128 GB, 2 TB)](https://ki-minipc-vergleich.de/bosgame-m5-ai-ryzen-ai-max-395-128-gb-2-tb) | 4.5/5 | 3.699,00 € (Stand 2026-11-19) | 128 GB Unified Memory: 70B-LLMs in Q4 lokal ohne Grafikkarte |
| [GMKtec EVO-X2 (Ryzen AI Max+ 395, 128 GB, 1 TB)](https://ki-minipc-vergleich.de/gmktec-evo-x2-ryzen-ai-max-395-128-gb-1-tb) | 4.5/5 | 3.869,96 € (Stand 2026-11-19) | 128 GB Unified Memory für quantisierte 70B- bis 120B-Modelle auf dem Schreibtisch |
| [Apple Mac Studio (M5 Max, 36 GB, 512 GB)](https://ki-minipc-vergleich.de/apple-mac-studio-m5-max-36-gb-512-gb) | 4.2/5 | 2.549,00 € (Stand 2026-11-19) | M5 Max mit 36 GB: 30B-LLMs leise lokal auf 19,7 cm |
| [Apple Mac mini (M5 Pro, 24 GB, 512 GB)](https://ki-minipc-vergleich.de/apple-mac-mini-m5-pro-24-gb-512-gb) | 4.3/5 | 1.699,00 € (Stand 2026-11-19) | M5 Pro mit 307 GB/s: flotte LLMs bis Mittelklasse auf 12,7 cm |
| [ASUS Ascent GX10 (GB10 Grace Blackwell, 128 GB, 1 TB)](https://ki-minipc-vergleich.de/asus-ascent-gx10-gb10-grace-blackwell-128-gb-1-tb) | 4.3/5 | 8.505,99 € (Stand 2026-11-19) | 128 GB Unified Memory und 4 TB SSD für lokale 200B-Modelle mit CUDA |
| [Minisforum AI X1 Pro (Ryzen AI 9 HX 370, 32 GB, 1 TB)](https://ki-minipc-vergleich.de/minisforum-ai-x1-pro-ryzen-ai-9-hx-370-32-gb-1-tb) | 4.1/5 | 1.359,00 € (Stand 2026-11-19) | 32 GB DDR5 und OCuLink: lokale LLMs bis rund 30B, per eGPU erweiterbar |
| [Minisforum UM880 Plus (Ryzen 7 8845HS, 16 GB, 512 GB)](https://ki-minipc-vergleich.de/minisforum-um880-plus-ryzen-7-8845hs-16-gb-512-gb) | 3.9/5 | 699,00 € (Stand 2026-11-19) | Ryzen 7 8845HS mit OCuLink: kleine LLMs ab Werk, größere später per eGPU |

## Der häufigste Fehlkauf: NPU-TOPS statt Speicherbandbreite

Auf vielen Datenblättern steht die **NPU-Leistung in TOPS** ganz oben, und genau darauf fallen viele herein. Für ein [Sprachmodell](https://ki-minipc-vergleich.de/glossary/sprachmodelle) zählt etwas anderes. Bei jedem erzeugten Token muss der Rechner die aktiven [Modellgewichte](https://ki-minipc-vergleich.de/glossary/gewichte) einmal komplett aus dem [Arbeitsspeicher](https://ki-minipc-vergleich.de/glossary/arbeitsspeicher) lesen. Das Antworttempo in [Tokens pro Sekunde](https://ki-minipc-vergleich.de/glossary/tokens-pro-sekunde) hängt deshalb vor allem an der **[Speicherbandbreite](https://ki-minipc-vergleich.de/glossary/speicherbandbreite) in GB/s**. Eine NPU mit doppelter TOPS-Zahl rechnet zwar schneller, wartet aber genauso lange auf die Daten aus dem Speicher.

| Kennzahl | Was sie bei lokaler KI bestimmt | Wie wichtig beim Kauf |
| --- | --- | --- |
| Arbeitsspeicher (GB) | ob das Modell samt Kontextfenster überhaupt hineinpasst | entscheidend |
| Speicherbandbreite (GB/s) | wie viele Tokens/s das Modell erzeugt | entscheidend |
| NPU-TOPS | kleine Hintergrundaufgaben wie Webcam-Effekte oder Transkription | Nebensache |

### MoE-Modelle: schnell, aber nicht sparsam

Mixture-of-Experts-Modelle verschieben die Rechnung, heben sie aber nicht auf. **Qwen3.8-Flash-Next** hat 125 Mrd. Parameter, nutzt pro Token aber nur rund 6 Mrd. davon. Pro Token wandern also nur wenige Daten durch den Speicher, und deshalb läuft das Modell trotz seiner Größe flott. Die übrigen Experten müssen trotzdem jederzeit griffbereit im Speicher liegen.

Ein Erfahrungsbericht auf dev.to zeigt das deutlich. Auf einer RTX 5090 (32 GB) mit 64 GB DDR5 lief eine 3,05-Bit-Quantisierung über ExLlamaV3 mit etwa 50 Tokens/s bei einem [Kontext](https://ki-minipc-vergleich.de/glossary/kontext) von 262.144 Tokens. Belegt waren dabei **rund 26 GB VRAM und zusätzlich etwa 43 GB System-RAM**, weshalb 64 GB Arbeitsspeicher empfohlen werden. Ein MoE-Modell spart also Rechenzeit, aber keinen Speicherplatz.

### Verlöteter RAM: die Entscheidung fällt an der Kasse

Bei vielen [Mini-PCs](https://ki-minipc-vergleich.de/glossary/mini-pc) ist der Arbeitsspeicher [fest verlötet](https://ki-minipc-vergleich.de/glossary/verloetet). Der Acemagic M1 hat zum Beispiel **24 GB, die sich nicht nachrüsten lassen**. Für 7B- bis 14B-Modelle in Q4 reicht das gut aus. Ein MoE-Modell wie das oben beschriebene passt dort aber nie hinein, ganz egal, was du später an Software optimierst.

Wenn du größere Modelle zumindest in Erwägung ziehst, hast du zwei saubere Wege:

- **Gleich mehr Speicher kaufen.** Bei Geräten mit Unified Memory ist die [Ausstattung](https://ki-minipc-vergleich.de/glossary/konfiguration) beim Kauf die endgültige.
- **Ein erweiterbares Gerät wählen**, etwa den GMKtec M6 Ultra, den TechRadar als Preis-Leistungs-Tipp nennt. Er wird mit bis zu 32 GB DDR5 ausgeliefert und lässt sich auf **bis zu 128 GB** aufrüsten. Eine dedizierte [GPU](https://ki-minipc-vergleich.de/glossary/gpu) hat er allerdings nicht.

Prüfe vor dem Kauf im Datenblatt zwei Angaben: ob der RAM **gesteckt (SO-DIMM) oder verlötet** ist und welchen Speichertyp mit welchem Takt das Gerät nutzt, zum Beispiel LPDDR5X-8533. Diese Werte sagen über das spätere Antworttempo deines Sprachmodells mehr aus als jede TOPS-Angabe. Die NPU-Zahl kannst du beim Vergleich getrost ignorieren.
