LokalKI

Was sind Parameter bei KI-Modellen?

Parameter sind die gelernten Zahlenwerte (Gewichte) eines Sprachmodells. Ihre Anzahl wird in Milliarden angegeben und mit B abgekürzt: Ein 70B-Modell hat rund 70 Milliarden Parameter. Die Parameterzahl bestimmt, wie viel Speicher ein Modell braucht. Als Faustregel gilt: Gewichte ≈ Parameter × Bit ÷ 8. In 4 Bit belegt ein 70B-Modell damit etwa 35 GB, ein 120B-Modell etwa 60 GB, jeweils plus KV-Cache und Puffer. Der Mac mini M6 mit 16 GB scheidet für 70B daher aus, der Bosgame M5 AI mit 128 GB schafft es. Bei Mixture-of-Experts-Modellen (MoE) wird pro Token nur ein Teil gerechnet. Qwen3.8-Flash-Next hat zum Beispiel 125B Parameter, davon etwa 6B aktiv pro Token. Im Speicher liegen trotzdem alle Gewichte, das Tempo richtet sich eher nach den aktiven Parametern.