Was das Context Window ist – und was du dagegen tun kannst

Das kennst du wahrscheinlich, auch ohne einen Namen dafür zu haben. Du startest einen Chat mit einer KI, und die ersten Antworten sind grossartig. Eine Stunde später, in derselben Konversation, ist es schlechter geworden. Sie vergisst etwas, das du ihr vorher gesagt hast. Sie schlägt eine Idee vor, die du schon abgelehnt hast. Die Antworten werden vager. Es fühlt sich an, als wäre das Modell unterwegs leise dümmer geworden.

Ist es aber nicht. Du hast ihr Context Window gefüllt. Sobald du weisst, was das ist, kannst du das verhindern – und die Lösung ist einfach.

Was es ist

Jeder KI-Chat hat ein Arbeitsgedächtnis. Stell es dir als den Schreibtisch der KI vor. Alles, was sie sieht, während sie dir antwortet, muss auf diesen Schreibtisch passen: deine Anweisungen, alles, was du eingefügt hast, und die gesamte bisherige Konversation, deine Nachrichten und ihre eigenen Antworten. Dieser Platz ist das Context Window, und er hat eine feste Grösse.

Zwei Dinge lohnt es sich, darüber zu wissen.

Das ist etwas anderes als das, was die KI «weiss». Das Modell hat während des Trainings eine riesige Menge gelernt, und dieses Wissen ist dauerhaft. Das Context Window ist nur das, worauf sie gerade schaut.

Und es wird nicht mitgenommen. Startest du einen neuen Chat, ist der Schreibtisch leer geräumt. Die KI erinnert sich an nichts aus deiner letzten Konversation. Diese Konversation liegt einfach nicht mehr auf dem Schreibtisch. (Aus demselben Grund kann sich eine KI wie das brillante neue Teammitglied anfühlen, das über Nacht alles vergisst, dazu mehr in Deine KI hat keine Ahnung, was dein Unternehmen macht.)

Gemessen wird die Grösse in «Tokens», einfachen Textstücken von je etwa drei Vierteln eines Wortes. Du musst sie nicht zählen. Du musst nur wissen, dass der Schreibtisch einen Rand hat und dir der Platz ausgehen kann.

Warum ein volles Context Window schadet

Zwei Gründe. Den ersten würdest du erraten, der zweite überrascht die meisten.

Erstens: Ein volleres Context Window ist langsamer, und wenn du pro Nutzung zahlst, auch teurer. Bei jeder einzelnen Nachricht gibt es mehr zu lesen und zu verarbeiten.

Zweitens: Ein volles Context Window macht die KI ungenauer. Das ist das Gegenteil von dem, was die meisten annehmen. Es fühlt sich an, als müsste mehr Context zu einer besser informierten Antwort führen. Ab einem gewissen Punkt stimmt das nicht mehr, und das Modell verliert den Überblick. Stopfst du ein langes Dokument hinein, sind Modelle spürbar schlechter darin, Informationen zu nutzen, die in der Mitte vergraben liegen, als solche am Anfang oder am Ende. Forscher haben dafür sogar einen Namen, «lost in the middle», und es ist ein gemessener, wiederholbarer Effekt, keine Vermutung.

Das Bild, das ich im Kopf habe: Du briefst eine fähige neue Person, indem du ihr einen 200-seitigen Ordner auf den Tisch legst und sagst: «Steht alles drin.» Technisch gesehen hast du ihr alles gegeben. Aber der Satz, der wirklich wichtig war, steht auf Seite 104, und den überfliegt sie einfach. Ein sauberes Ein-Seiten-Briefing schlägt den Ordner jedes Mal. Bei KI ist es genauso. Weniger, aber relevant, schlägt mehr.

Wenn ein Tool also mit einem riesigen Context Window wirbt («eine Million Tokens!»), verstehe das als Obergrenze, nicht als Ziel. Wie viel es aufnehmen kann und wie viel es klar durchdenken kann, sind zwei verschiedene Zahlen.

Was du dagegen tun kannst

Das ist eines der am einfachsten zu handhabenden Probleme in der KI. Eine Handvoll Gewohnheiten deckt das meiste davon ab.

Starte einen neuen Chat, wenn du das Thema wechselst. Das Wirksamste, was du tun kannst, und das, wogegen sich die meisten am meisten sträuben. Ein frischer Chat ist ein leerer Schreibtisch. Hast du eine Aufgabe abgeschlossen und wechselst zur nächsten, mach nicht im selben Chat weiter. Öffne einen neuen. Du merkst den Unterschied schon bei der ersten Antwort.

Gib einem Chat immer nur eine Aufgabe. Lange Konversationen, die zwischen fünf Themen hin- und herspringen, sind genau der Grund, warum Context Windows volllaufen und Antworten abdriften. Entscheide vor dem Start, was du aus der Session willst, bleib dabei und schliess sie ab, sobald du es hast.

Füge nicht mehr ein, als du brauchst. Geht deine Frage um einen Abschnitt eines Dokuments, gib der KI diesen Abschnitt, nicht das ganze PDF. Jede zusätzliche Seite ist etwas mehr, wogegen sich die eigentliche Antwort behaupten muss.

Leg das Dauerhafte an einem dauerhaften Ort ab. Alles, was in jeder Konversation gilt (wer du bist, wie du Texte geschrieben haben willst, worum es in deinem Projekt geht), musst du nicht jedes Mal neu eintippen. Bei den meisten Tools kannst du das einmal festlegen: «Custom Instructions» oder ein «Project» bei ChatGPT und Claude, eine CLAUDE.md-Datei in Claude Code. Einmal eingerichtet, lädt es automatisch, ohne den Chat zu verstopfen. Dazu habe ich einen ganzen Guide geschrieben: Das Setup, mit dem KI aufhört, generisch zu antworten.

Schalte Tools ab, die du nicht brauchst. Hast du Apps oder Plugins verbunden, nimmt jedes davon leise Platz im Context Window weg, noch bevor du überhaupt etwas eingetippt hast. Behalte, was die Aufgabe braucht, und schalte den Rest ab.

Musst du wirklich weitermachen, fass zusammen. Manchmal muss eine Session lang laufen. Du kannst die KI bitten, eine kurze Zusammenfassung des Wichtigen zu schreiben, und von dort einen neuen Chat starten, statt die ganze Historie mitzuschleppen. In Claude Code gibt es dafür einen Befehl, /compact, der das direkt vor Ort erledigt. Denk nur daran, dass die Zusammenfassung die beste Einschätzung der KI ist, was wichtig ist, sie kann also ein Detail verlieren. Behandle sie nicht wie ein perfektes Gedächtnis.

Nutzt du Claude Code (läuft im Terminal, als Desktop-App und im Browser), helfen zwei kleine Extras: Ein Balken zeigt dir während der Arbeit, wie voll das Context Window ist, und /context zeigt dir, was den Platz frisst, so erwischst du eine aufgeblähte Datei oder ein Tool, das du abzuschalten vergessen hast.

Wie ich das mache

Falls es hilft, hier mein eigener Ansatz. Ich gebe jeder Session vor dem Start ein einziges, konkretes Ziel. Nicht «an der Website arbeiten», sondern «den Context-Window-Guide hinzufügen und einbinden». Alle Änderungen sammle ich in einem Pull Request, und sobald das Ziel erreicht ist, merge ich ihn, lösche den Branch und archiviere die Session. Die nächste Aufgabe bekommt ihre eigene, saubere Session.

Das sieht nach Projektordnung aus, und das ist es auch. Aber es ist auch Context-Management, ohne dass ich es extra versuche. Eine Session mit einem einzigen Ziel bekommt nie die Chance, aufzublähen oder abzudriften. Die Arbeit endet, bevor das Context Window es tut.

Die Kurzfassung

Meistens, wenn eine KI dümmer zu werden scheint, ist sie es nicht. Ihr Schreibtisch ist vollgestopft. Ein kleiner, sauberer Context schlägt fast immer einen grossen, vollen, räum den Schreibtisch also oft frei und leg nur drauf, was die Aufgabe wirklich braucht.

---

Als Nächstes: Um die dauerhaften Anweisungen einzurichten, die stabilen Context aus deinem Chatfenster heraushalten, sieh dir Das Setup, mit dem KI aufhört, generisch zu antworten an. Warum Unternehmenswissen, nicht roher Context, KI bei der Arbeit nützlich macht, liest du in Deine KI hat keine Ahnung, was dein Unternehmen macht.