LokalKI

Was ist ein Mini-PC?

Ein Mini-PC ist ein kompakter Desktop-Rechner, meist mit Notebook- oder Spezialchips statt großer Steckkarten. Für lokale KI sind vor allem Modelle mit leistungsfähiger integrierter Grafik und viel gemeinsamem Arbeitsspeicher interessant. Damit laufen Sprachmodelle auch ohne separate Grafikkarte, etwa auf dem Bosgame M5 AI mit Radeon 8060S. Die wichtigsten Kennzahlen sind Speichergröße und Speicherbandbreite. In unserem Katalog reicht der Speicher von 16 GB (Apple Mac mini M6) bis 128 GB (GMKtec EVO-X2, ASUS Ascent GX10), die Bandbreite von 89,6 GB/s bis 460 GB/s. Manche Geräte wie der Minisforum UM880 Plus und der Minisforum AI X1 Pro haben einen OCuLink-Anschluss. Darüber lässt sich eine externe Grafikkarte für schnellere Inferenz anschließen. Der ASUS Ascent GX10 läuft auf der DGX-Plattform von NVIDIA und ist kein Windows-Alltags-PC.