# Was sind Modelldateien?

> Modelldateien enthalten die trainierten Gewichte eines Sprachmodells.

Quelle: https://ki-minipc-vergleich.de/glossary/modelldateien · Stand: 2026-11-18

Modelldateien enthalten die trainierten Gewichte eines Sprachmodells. Für lokale Nutzung liegen sie häufig im GGUF-Format vor, etwa für llama.cpp, oder in Formaten wie EXL3 für ExLlamaV3. Ihre Größe folgt grob der Regel [Parameter](https://ki-minipc-vergleich.de/glossary/gewichte) × Bit ÷ 8. Ein 70B-Modell in [4 Bit](https://ki-minipc-vergleich.de/glossary/bit) ist rund 35 GB groß, ein [120B-Modell](https://ki-minipc-vergleich.de/glossary/70b-modell) rund 60 GB. Kleine Modelle passen dagegen in wenige GB. Das betrifft zwei Komponenten: Die Datei muss auf die [SSD](https://ki-minipc-vergleich.de/glossary/ssd) passen und zum Ausführen in den [Arbeitsspeicher](https://ki-minipc-vergleich.de/glossary/arbeitsspeicher) geladen werden. Wer mehrere große Modelle parallel vorhält, braucht viel Speicherplatz. Beim [GMKtec EVO-X2](https://ki-minipc-vergleich.de/gmktec-evo-x2-ryzen-ai-max-395-128-gb-1-tb) mit 1 TB SSD ist der Platz nach wenigen 60-GB-Modellen erschöpft. Der [Bosgame M5 AI](https://ki-minipc-vergleich.de/bosgame-m5-ai-ryzen-ai-max-395-128-gb-2-tb) bietet mit 2 TB doppelt so viel Raum.
