# Was ist lokale KI?

> Lokale KI bedeutet, dass ein KI-Modell auf eigener Hardware ausgeführt wird, etwa auf einem Mini-PC, statt über einen Cloud-Dienst.

Quelle: https://ki-minipc-vergleich.de/glossary/lokale-ki · Stand: 2026-11-18

Lokale KI bedeutet, dass ein KI-Modell auf eigener Hardware ausgeführt wird, etwa auf einem [Mini-PC](https://ki-minipc-vergleich.de/glossary/mini-pc), statt über einen Cloud-Dienst. Eingaben und Dokumente bleiben auf dem Gerät, und es gibt keine Nutzungslimits eines Anbieters. Nach dem Download funktioniert das auch ohne Internetverbindung. Möglich machen das [Open-Weight-Modelle](https://ki-minipc-vergleich.de/glossary/lokale-sprachmodelle), deren [Gewichte](https://ki-minipc-vergleich.de/glossary/gewichte) frei verfügbar sind. Sie laufen mit Software wie llama.cpp. Die Grenze setzt vor allem der [Arbeitsspeicher](https://ki-minipc-vergleich.de/glossary/arbeitsspeicher). Mit 16 GB, wie beim [Minisforum UM880 Plus](https://ki-minipc-vergleich.de/minisforum-um880-plus-ryzen-7-8845hs-16-gb-512-gb) ab Werk, laufen nur kleine Modelle. Mit 128 GB wie beim [GMKtec EVO-X2](https://ki-minipc-vergleich.de/gmktec-evo-x2-ryzen-ai-max-395-128-gb-1-tb) passen [quantisierte](https://ki-minipc-vergleich.de/glossary/quantisierung) 70B- und [120B-Modelle](https://ki-minipc-vergleich.de/glossary/120b-klasse). Die Antwortgeschwindigkeit hängt stark von der [Speicherbandbreite](https://ki-minipc-vergleich.de/glossary/speicherbandbreite) ab und wird in [Tokens pro Sekunde](https://ki-minipc-vergleich.de/glossary/tokens-pro-sekunde) gemessen. Lokale Modelle haben einen festen Wissensstand und kennen keine Ereignisse nach ihrem Trainingsende.
