KI-Mini-PCs mit 128 GB RAM für große LLMs: drei Modelle im Vergleich



Wenn du große LLMs lokal ausführen willst, ist der Bosgame M5 AI mit Ryzen AI Max+ 395, 128 GB Unified Memory und 2 TB SSD für 3.699 € die vernünftigste Wahl. Den ASUS Ascent GX10 für 8.505,99 € brauchst du nur, wenn deine Werkzeuge CUDA voraussetzen. Hier siehst du, welche Modellgrößen in 128 GB passen, wo die Grenze liegt und was der Aufpreis tatsächlich kauft.
Schnellauswahl: welcher KI-Mini-PC zu dir passt
Alle drei Geräte haben 128 GB gemeinsamen Arbeitsspeicher. Die Modellgröße, die du lokal ausführen kannst, ist also bei allen gleich. Unterschiede gibt es bei Preis, SSD-Größe und Software-Ökosystem. Wenn du keine Zeit für den ganzen Vergleich hast, findest du hier die Kurzfassung.
Für die meisten ist das die richtige Wahl. Du bekommst 128 GB und 2 TB SSD für 3.699 €, also doppelt so viel Platz für Modelldateien wie beim GMKtec, und zahlst trotzdem weniger.
Im Gerät steckt derselbe Ryzen AI Max+ 395 mit 16 CPU-Kernen und 40 GPU-Kernen, du bekommst aber nur 1 TB SSD für 3.869,96 €. Damit zahlst du 170,96 € mehr für die halbe SSD. Sinnvoll ist er vor allem, wenn du schon andere GMKtec-Geräte nutzt und bei einem Hersteller bleiben willst.
Der GB10 Grace Blackwell mit 128 GB lässt Nvidia-Werkzeuge ohne Umweg über ROCm oder Vulkan laufen. Mit 8.505,99 € kostet er mehr als das Doppelte und lohnt sich nur, wenn dein Arbeitsablauf zwingend CUDA voraussetzt.
So entscheidest du in zehn Sekunden
| Deine Situation | Passende Wahl | Grund |
|---|---|---|
| Du willst große GGUF-Modelle lokal ausführen und auf den Preis achten | Bosgame M5 AI | Niedrigster Preis, 2 TB SSD statt 1 TB beim GMKtec |
| Du möchtest den Ryzen AI Max+ 395, legst aber Wert auf die Marke GMKtec | GMKtec EVO-X2 | Gleicher Chip, 170,96 € teurer |
| Dein Code, deine Bibliotheken oder dein Team brauchen CUDA | ASUS Ascent GX10 | Nvidia-Software-Stack direkt nutzbar |
Warum die SSD so wichtig ist: Ein 120B-Modell in Q4 belegt allein für die Gewichte rund 60 GB. Wenn du vier solcher Modelle in je zwei Quantisierungsvarianten zum Vergleichen behältst, sind schnell rund 500 GB weg, also die Hälfte einer 1-TB-SSD, bevor Betriebssystem und Projekte dazukommen. Mit den 2 TB des Bosgame musst du erst deutlich später alte Modelle löschen oder eine zweite SSD nachrüsten.
Bosgame M5 AI und GMKtec EVO-X2 nutzen denselben Chip mit der integrierten Grafik Radeon 8060S. Bei gleicher Quantisierung kannst du deshalb ähnliche Werte bei den Tokens/s erwarten. Den Ausschlag geben Preis und SSD, und bei beiden liegt der Bosgame vorn. Der GX10 spielt in einer anderen Preisklasse: Er kann Modelle genauso ausführen, seinen Aufpreis rechtfertigt aber nur die CUDA-Entwicklung.
Hinweis: Diese Seite enthält Affiliate-Links. Wenn du über einen dieser Links kaufst, erhalten wir eventuell eine Provision. Für dich ändert sich am Preis nichts.
Alle drei Geräte im Vergleich
| Produkt | Bewertung | Preis | Kaufen |
|---|---|---|---|
Bosgame M5 AI (Ryzen AI Max+ 395, 128 GB, 2 TB) 128 GB Unified Memory: 70B-LLMs in Q4 lokal ohne Grafikkarte +128 GB: 70B-Modelle in Q4+Radeon 8060S: LLMs ohne Grafikkarte -Verlöteter RAM: 128 GB bleiben Endausbau | 3.699,00 € | Kaufen → | |
GMKtec EVO-X2 (Ryzen AI Max+ 395, 128 GB, 1 TB) 128 GB Unified Memory für quantisierte 70B- bis 120B-Modelle auf dem Schreibtisch +128 GB: quantisierte 70B-/120B-Modelle lokal+Achtkanal-LPDDR5X: hohe Bandbreite für Tokens/s -Verlötetes LPDDR5X: 128 GB bleiben Obergrenze | 3.869,96 € | Kaufen → | |
ASUS Ascent GX10 (GB10 Grace Blackwell, 128 GB, 1 TB) 128 GB Unified Memory und 4 TB SSD für lokale 200B-Modelle mit CUDA +128 GB Speicher: 200B-Modelle lokal+ConnectX-7: zwei Geräte, 256 GB -DGX-Plattform: kein Windows-Alltags-PC | 8.505,99 € | Kaufen → |
Preise vom 19. Nov. 2026, 14:26 Uhr, sie können sich inzwischen geändert haben.
Wie viel Arbeitsspeicher braucht ein großes LLM?
Bei 128 GB gemeinsamem Arbeitsspeicher entscheidet eine einfache Rechnung, ob ein Modell lädt oder abbricht. Minisforum nennt dafür eine Faustregel: Gewichte ≈ Parameter × Bit ÷ 8. Ein Modell mit 70 Mrd. Parametern braucht bei 4-Bit-Quantisierung also 70 × 4 ÷ 8 = rund 35 GB, ein 120B-Modell rund 60 GB. Dazu kommen noch KV-Cache, Puffer und das Betriebssystem. Die Gewichte allein sagen also noch nicht, ob das Modell sicher läuft.
- 35 GBGewichte eines 70B-Modells in Q4, gut die Hälfte des Speichers bleibt frei
- 60 GBGewichte eines 120B-Modells in Q4, passt noch mit Spielraum
- 144 GBDeepSeek V4 Flash 284B in Q4 laut Minisforum, zu groß für 128 GB
- 6 Mrd.aktive Parameter pro Token bei Qwen3.8-Flash-Next, obwohl das Modell 125B groß ist
| Modell | Größe | Speicher in Q4 (nur Gewichte) | In 128 GB? |
|---|---|---|---|
| Dichtes 70B-Modell | 70 Mrd. Parameter | ca. 35 GB | Ja, mit viel Reserve |
| Dichtes 120B-Modell | 120 Mrd. Parameter | ca. 60 GB | Ja |
| Qwen3.8-Flash-Next (MoE) | 125 Mrd., ca. 6 Mrd. aktiv | ca. 63 GB nach Faustregel | Ja, mit Reserve |
| DeepSeek V4 Flash (MoE) | 284 Mrd. Parameter | ca. 144 GB (gemessen) | Nein |
DeepSeek V4 Flash 284B zeigt, wo die Grenze liegt. Laut Minisforum belegte das Modell in Q4 rund 144 GB und erreichte 12,35 Tokens/s. Dafür wurde allerdings ein Gerät mit 192 GB verwendet. Auf dem Bosgame M5 AI, dem GMKtec EVO-X2 oder dem ASUS Ascent GX10 lädt dieses Modell in Q4 nicht, auch nicht auf dem teuersten der drei.
Besser passt Qwen3.8-Flash-Next. Das Modell hat 125B Parameter in einer MoE-Architektur, rechnet pro Token aber nur mit etwa 6 Mrd. aktiven Parametern. In Q4 passt es deshalb mit Reserve in 128 GB. Weil pro Token nur ein kleiner Teil der Gewichte durch die Speicherbandbreite muss, läuft es deutlich schneller als ein gleich großes dichtes Modell. Die eingebaute MTP-Schicht beschleunigt die Inferenz zusätzlich um den Faktor 1,3 bis 1,7. Für Geräte mit 128 GB ist das derzeit eine der sinnvollsten Klassen von Modellen.
Was nach dem Laden der Gewichte übrig bleibt, bestimmt zwei Dinge. Erstens, wie lang dein Kontextfenster werden kann, denn der KV-Cache wächst mit jedem Token im Kontext. Zweitens, ob ein zweites Modell parallel geladen bleibt, etwa ein kleines Modell für Code-Vervollständigung neben einem großen Modell für den Chat. Ein 70B-Modell in Q4 lässt dir dafür deutlich mehr Spielraum als ein 120B-Modell.
Für deine Wahl folgt daraus: Welche Modelle du ausführen kannst, entscheidet bei diesen drei Geräten nicht der Kaufpreis. Wenn du ausreichend Reserve für lange Kontexte willst, plane mit Modellen bis etwa 120B in Q4.
Gleicher Chip, anderes Gerät: Bosgame M5 AI oder GMKtec EVO-X2?
128 GB Unified Memory: 70B-LLMs in Q4 lokal ohne Grafikkarte
- 128 GB: 70B-Modelle in Q4
- Radeon 8060S: LLMs ohne Grafikkarte
- 2 TB plus M.2-Slot für Modelle
- Verlöteter RAM: 128 GB bleiben Endausbau
- Unter Dauerlast hörbar lauter Lüfter
128 GB Unified Memory für quantisierte 70B- bis 120B-Modelle auf dem Schreibtisch
- 128 GB: quantisierte 70B-/120B-Modelle lokal
- Achtkanal-LPDDR5X: hohe Bandbreite für Tokens/s
- Zwei USB4-Ports für schnelle Modellablage
- Verlötetes LPDDR5X: 128 GB bleiben Obergrenze
- 1 TB voll nach wenigen 60-GB-Modellen
128 GB Unified Memory und 4 TB SSD für lokale 200B-Modelle mit CUDA
- 128 GB Speicher: 200B-Modelle lokal
- ConnectX-7: zwei Geräte, 256 GB
- 4 TB SSD: Platz für viele Modelle
- DGX-Plattform: kein Windows-Alltags-PC
- 128 GB: MS-S1 MAX bietet 192 GB
Preise vom 19. Nov. 2026, 14:26 Uhr, sie können sich inzwischen geändert haben.
Software-Stand: ROCm und Vulkan oder CUDA
Wenn der Speicher bei allen dreien gleich groß ist, macht die Software den Unterschied: Der Bosgame M5 AI und der GMKtec EVO-X2 setzen auf AMDs Ryzen AI Max+ 395 mit integrierter Grafik Radeon 8060S. Der ASUS Ascent GX10 nutzt Nvidias GB10 Grace Blackwell. Welches Lager zu dir passt, hängt davon ab, ob du Modelle nur ausführen oder auch trainieren willst.
AMD: Vulkan läuft rund, ROCm braucht Geduld
Für lokale KI auf dem Ryzen AI Max+ ist llama.cpp über Vulkan der bequemste Weg. Der Vulkan-Treiber läuft stabil und braucht kaum Einrichtung. Er versteht GGUF-Modelle direkt, also genau das Format, in dem Unsloth seine Quantisierungen wie die Dynamic-v3.1-GGUFs für Qwen3.8-Flash-Next veröffentlicht.
ROCm unterstützt die iGPU inzwischen ebenfalls. Es ist aber weniger ausgereift als CUDA: Nicht jedes Python-Framework erkennt die Radeon 8060S auf Anhieb, und bei Bibliotheken, die eigens für Nvidia-Karten geschrieben sind, musst du öfter nach Umwegen suchen oder auf neue Versionen warten.
Nvidia: CUDA spart dir Bastelarbeit
Der GB10 im ASUS Ascent GX10 läuft mit CUDA und Nvidias kompletter Software-Umgebung. Beachte: Seit Oktober 2026 gibt es mit dem RTX Spark N1X Nvidias neuere Plattform für Windows 11 on Arm, mit bis zu 128 GB Unified Memory und laut ComputerBase bis zu 140 W in Mini-PCs. Der GB10 ist die ältere, Linux-basierte Generation, die CUDA-Umgebung bekommst du aber auch hier vollständig. Viele Werkzeuge für Feinabstimmung, Training und Forschungscode setzen CUDA voraus oder sind zuerst dafür optimiert. Ein Tutorial, das auf einer Nvidia-Karte funktioniert, läuft hier meist ohne Anpassung. Das spart dir Zeit, sobald du LoRA-Feinabstimmung betreibst oder Frameworks nutzt, die nur CUDA unterstützen.
| Kriterium | Ryzen AI Max+ 395 (Bosgame M5 AI, GMKtec EVO-X2) | GB10 Grace Blackwell (ASUS Ascent GX10) |
|---|---|---|
| Software-Grundlage | Vulkan und ROCm | CUDA und Nvidias Software-Stack |
| llama.cpp mit GGUF-Modellen | Läuft stabil über Vulkan | Läuft nativ über CUDA |
| Python-Frameworks für Training | Über ROCm möglich, häufiger Nacharbeit | Breite Unterstützung ab Werk |
| Werkzeuge nur für CUDA | Nicht nutzbar | Uneingeschränkt nutzbar |
| Passt am besten für | Inferenz, Chat, lokale Assistenten | Entwicklung, Feinabstimmung, Forschung |
Lohnt sich der Aufpreis?
Der GX10 kostet rund 2,3-mal so viel wie der Bosgame M5 AI, also etwa 4.800 € mehr. Für reine Inferenz mit GGUF-Modellen über llama.cpp oder Unsloth Desktop rechtfertigt CUDA diesen Aufpreis kaum. Die Modelle passen auf beide Plattformen gleich gut, und Vulkan erledigt die Arbeit zuverlässig.
Anders sieht es bei Entwicklung und Training aus. Wenn du beruflich Modelle feinabstimmst oder deine Werkzeugkette fest auf CUDA aufbaut, kann der GX10 seinen Preis über die gesparte Einrichtungszeit wieder hereinholen.
Fazit zur Plattformwahl
Du willst große Sprachmodelle lokal ausführen, chatten oder Dokumente auswerten? Dann reicht dir AMD mit Vulkan, und der Bosgame M5 AI ist die günstigere Wahl. Den ASUS Ascent GX10 solltest du nur kaufen, wenn dein Arbeitsablauf CUDA zwingend voraussetzt.
Häufige Fragen zu KI-Mini-PCs mit 128 GB
Vor dem Kauf geht es um praktische Punkte: Wie laut und wie teuer ist so ein Gerät, wenn es stundenlang Tokens erzeugt? Und was tust du, wenn der Speicher irgendwann nicht mehr reicht?
Häufig gestellte Fragen
Wie laut wird ein KI-Mini-PC unter Dauerlast?
Bei kurzen Chat-Anfragen bleibt er meist unauffällig. Bei langen Generierungsläufen sieht das anders aus, etwa beim Zusammenfassen großer Dokumente oder bei Batch-Jobs über Nacht. Dann laufen iGPU und Speicher dauerhaft am Limit, und die Lüfter drehen hörbar auf. Das gilt für den Bosgame M5 AI und den GMKtec EVO-X2 mit Ryzen AI Max+ 395 genauso wie für den ASUS Ascent GX10.
Der Aufstellort ist deshalb wichtiger als bei einem Büro-PC. Stell das Gerät nicht direkt neben den Monitor, sondern lieber ins Regal, in den Nebenraum oder unter den Schreibtisch. Achte dabei auf freie Lüftungsöffnungen. Wer das Gerät als Server im Netzwerk betreibt, hört davon praktisch nichts.
Was kostet der Dauerbetrieb an Strom?
Die Rechnung ist einfach: Watt unter Last × Betriebsstunden × Strompreis. Eine Beispielrechnung mit angenommenen 150 W Last, 8 Stunden Generierung pro Tag und 0,35 €/kWh:
| Schritt | Rechnung | Ergebnis |
|---|---|---|
| Energie pro Tag | 150 W × 8 h | 1,2 kWh |
| Kosten pro Tag | 1,2 kWh × 0,35 € | 0,42 € |
| Kosten pro Monat | 0,42 € × 30 | 12,60 € |
Setz für eine genaue Rechnung die Herstellerangabe zur Leistungsaufnahme und deinen eigenen Tarif ein. Wichtig: Im Leerlauf ziehen die Geräte deutlich weniger als unter Last. Ein Mini-PC, der rund um die Uhr läuft, aber nur gelegentlich rechnet, kostet daher viel weniger, als die reine Lastrechnung vermuten lässt.
Kann ich den Arbeitsspeicher später aufrüsten?
Nein. Bei allen drei Geräten ist der gemeinsame Arbeitsspeicher fest verlötet, denn nur so erreichen sie die hohe Speicherbandbreite. Die Speichergröße ist also eine Entscheidung fürs ganze Geräteleben. Umso stärker fällt die SSD ins Gewicht: Der Bosgame M5 AI bringt ab Werk 2 TB für deine Modellsammlung mit, der GMKtec EVO-X2 nur 1 TB.
Was mache ich, wenn ein Modell größer als 128 GB ist?
Du kannst mehrere Geräte koppeln und das Modell auf sie verteilen. Das ist für Brocken wie DeepSeek V4 Flash 284B interessant, das in Q4 wie oben gezeigt nicht in ein einzelnes 128-GB-Gerät passt. Zwei gekoppelte Geräte bieten zusammen 256 GB und damit genug Platz für Gewichte und Kontext.
Der Haken ist der Netzwerkdurchsatz. Er liegt weit unter der internen Speicherbandbreite und bremst die Tokens/s spürbar. Schon auf einem einzelnen 192-GB-System, wo das gesamte Modell im schnellen Speicher liegt, sind es nur gut 12 Tokens/s. Im Cluster aus zwei 128-GB-Geräten musst du mit weniger rechnen.
Clustering lohnt sich also, wenn das Modell sonst gar nicht läuft. Für mehr Tempo ist es nicht geeignet. Für die meisten reicht ein einzelnes Gerät mit MoE-Modellen wie Qwen3.8-Flash-Next völlig aus.
Neueste Bewertungen








Ratgeber & Artikel



