# Was sind LLMs?

> LLMs Large Language Models sind große Sprachmodelle mit meist mehreren Milliarden bis hunderten Milliarden Parametern.

Quelle: https://ki-minipc-vergleich.de/glossary/llms · Stand: 2026-11-18

LLMs (Large Language Models) sind [große Sprachmodelle](https://ki-minipc-vergleich.de/glossary/sprachmodelle) mit meist mehreren Milliarden bis hunderten [Milliarden Parametern](https://ki-minipc-vergleich.de/glossary/parameter). Auf ihnen beruhen moderne Chatbots und KI-Assistenten. Neben geschlossenen Cloud-Modellen gibt es Open-Weight-LLMs, die sich herunterladen und lokal ausführen lassen. Ein aktuelles Beispiel ist Qwen3.8-Flash-Next, ein MoE-Modell mit 125B Parametern. Für den lokalen Betrieb gilt: Die Speichergröße bestimmt, welches LLM überhaupt passt. Die [Speicherbandbreite](https://ki-minipc-vergleich.de/glossary/speicherbandbreite) bestimmt, wie viele [Tokens pro Sekunde](https://ki-minipc-vergleich.de/glossary/tokens-pro-sekunde) erzeugt werden. Der [Bosgame M5 AI](https://ki-minipc-vergleich.de/bosgame-m5-ai-ryzen-ai-max-395-128-gb-2-tb) mit 128 GB [Unified Memory](https://ki-minipc-vergleich.de/glossary/arbeitsspeicher) und Radeon 8060S führt LLMs ohne separate [Grafikkarte](https://ki-minipc-vergleich.de/glossary/gpu) aus, darunter auch [70B-Modelle](https://ki-minipc-vergleich.de/glossary/70b-modell) in Q4. Kleinere Geräte wie der [Minisforum UM880 Plus](https://ki-minipc-vergleich.de/minisforum-um880-plus-ryzen-7-8845hs-16-gb-512-gb) lassen sich per OCuLink um eine externe Grafikkarte ergänzen. Das beschleunigt die LLM-Inferenz deutlich.
