Was ist ein Kontextfenster?
Das Kontextfenster ist die maximale Textmenge in Tokens, die ein Sprachmodell auf einmal berücksichtigen kann. Dazu zählen Eingabe, bisheriger Chatverlauf und Antwort zusammen. Was darüber hinausgeht, muss abgeschnitten werden und ist für das Modell nicht mehr sichtbar. Aktuelle Modelle unterstützen oft 128.000 Tokens und mehr, Qwen3.8-Flash-Next lief in einem Test mit 262.144 Tokens. Ein großes Kontextfenster kostet Speicher, denn der KV-Cache wächst mit der Kontextlänge und kommt zu den Modellgewichten hinzu. Auf Geräten mit knappem Unified Memory wie dem Mac mini M6 (16 GB) muss man den Kontext daher oft kleiner einstellen. Geräte mit 128 GB wie der Bosgame M5 AI bieten mehr Reserven. Lange Kontexte verlangsamen außerdem die Verarbeitung der Eingabe.