# Gewichte eines KI-Modells erklärt

> Gewichte sind die Parameter, die ein Sprachmodell im Training gelernt hat.

Quelle: https://ki-minipc-vergleich.de/glossary/gewichte · Stand: 2026-11-18

Gewichte sind die Parameter, die ein [Sprachmodell](https://ki-minipc-vergleich.de/glossary/sprachmodelle) im Training gelernt hat. Ein 70B-Modell besteht zum Beispiel aus rund 70 Milliarden solcher Zahlenwerte. Beim lokalen Ausführen müssen alle Gewichte im [Arbeitsspeicher](https://ki-minipc-vergleich.de/glossary/arbeitsspeicher) liegen. Ihr Platzbedarf lässt sich mit einer Faustregel abschätzen: Parameter × Bit pro Gewicht ÷ 8 ergibt die Größe in Byte. Ein 70B-Modell braucht demnach in 4 Bit etwa 35 GB, in [16 Bit](https://ki-minipc-vergleich.de/glossary/bit) etwa 140 GB. Ein [120B-Modell](https://ki-minipc-vergleich.de/glossary/70b-modell) kommt in 4 Bit auf rund 60 GB. Dazu kommen [KV-Cache](https://ki-minipc-vergleich.de/glossary/kv-cache), [Puffer](https://ki-minipc-vergleich.de/glossary/puffer) und das [Betriebssystem](https://ki-minipc-vergleich.de/glossary/betriebssystem). Deshalb passt ein 70B-Modell in 4 Bit nicht auf den [Apple Mac Studio](https://ki-minipc-vergleich.de/apple-mac-studio-m5-max-36-gb-512-gb) (M5 Max) mit 36 GB, wohl aber auf den [Bosgame M5 AI](https://ki-minipc-vergleich.de/bosgame-m5-ai-ryzen-ai-max-395-128-gb-2-tb) mit 128 GB. Bei „Open-Weight“-Modellen sind die Gewichte frei herunterladbar und lassen sich lokal nutzen.
