# Lokale LLMs erklärt

> Lokale LLMs Large Language Models sind große Sprachmodelle, die vollständig auf eigener Hardware laufen.

Quelle: https://ki-minipc-vergleich.de/glossary/lokale-llms · Stand: 2026-11-18

Lokale LLMs ([Large Language Models](https://ki-minipc-vergleich.de/glossary/llms)) sind [große Sprachmodelle](https://ki-minipc-vergleich.de/glossary/sprachmodelle), die vollständig auf eigener Hardware laufen. Eingaben verlassen dabei nicht den Rechner, und es fällt kein Abo für einen Cloud-Dienst an. Welche Modelle laufen, hängt vor allem vom verfügbaren [Arbeitsspeicher](https://ki-minipc-vergleich.de/glossary/arbeitsspeicher) und seiner [Bandbreite](https://ki-minipc-vergleich.de/glossary/speicherbandbreite) ab. Ein 70B-Modell in [4 Bit](https://ki-minipc-vergleich.de/glossary/bit) belegt allein für die [Gewichte](https://ki-minipc-vergleich.de/glossary/gewichte) rund 35 GB. Die Geräte in unserem Katalog bieten 16 bis 128 GB Unified Memory. Der [Bosgame M5 AI](https://ki-minipc-vergleich.de/bosgame-m5-ai-ryzen-ai-max-395-128-gb-2-tb) und der [GMKtec EVO-X2](https://ki-minipc-vergleich.de/gmktec-evo-x2-ryzen-ai-max-395-128-gb-1-tb) mit je 128 GB schaffen [quantisierte](https://ki-minipc-vergleich.de/glossary/quantisierung) [70B-Modelle](https://ki-minipc-vergleich.de/glossary/70b-modell). Mit 16 GB eignet sich der [Minisforum UM880 Plus](https://ki-minipc-vergleich.de/minisforum-um880-plus-ryzen-7-8845hs-16-gb-512-gb) ab Werk nur für kleine Modelle. Die Geschwindigkeit wird in [Tokens pro Sekunde](https://ki-minipc-vergleich.de/glossary/tokens-pro-sekunde) (tok/s) gemessen.
