KM4BIKM4BI

Füge das in Claude ein und stoße nie wieder an ein Token-Limit

Nate B. Jones zeigt, wie Token-Limits durch sauberes Kontextmanagement, kürzere Ausgaben und Automatisierung mit Token Saver oder Ringer seltener werden.

Nate B. Jones beschreibt Token-Limits als Problem des Kontextmanagements. In seinem Beispiel liefen an einem Codex-Arbeitstag 3,77 Milliarden Token durch das System, davon fast 96 % wiederverwendete Eingabe. Die eigentliche neue Nachricht ist also meist nur ein kleiner Teil des echten Modellaufrufs.

Kontext sauber halten

Das Video fasst fünfzehn Regeln in drei Ebenen zusammen. Die erste Ebene ist Handarbeit: fehlerhafte Prompts editieren statt im nächsten Turn zu korrigieren, verwandte Fragen bündeln, bei einem neuen Job eine neue Aufgabe starten und nur das nützliche Ergebnis einer Phase weitergeben, nicht die gesamte Diskussion davor.

Auch die Länge der Antwort zählt. Lange Ausgaben kosten bei der Generierung und werden danach erneut teuer, weil sie in spätere Turns als Kontext zurückfließen. Wer fünf Stichpunkte, einen Absatz oder JSON verlangt, reduziert Ambiguität und künftige Kontextlast.

Quellen leichter machen

Bei Dateien empfiehlt Nate, zuerst selbst zu suchen, relevante Ausschnitte zu senden und PDFs oder Screenshots in Text oder Markdown umzuwandeln, wenn das Layout nicht wichtig ist. Das Modell kann unaufgeräumtes Material zwar sortieren, verbrennt dabei aber schnell Token.

Die zweite Ebene automatisiert diese Gewohnheiten über den Skill „token saver“. Er sucht vor dem Öffnen großer Dateien, sendet ausgewählte Passagen, führt präzise Arbeit als Code aus, speichert die akzeptierte Version und baut die nächste Anfrage aus dem Ergebnis statt aus der gesamten Gesprächshistorie.

Erweiterte Leitplanken

Der fortgeschrittene Teil behandelt das, was bereits vor der eigentlichen Arbeit in der Anfrage steckt: Tool-Definitionen, stehende Instruktionen, komprimierte Historie, Modellwahl und Prompt Caching. Nate nennt ein Claude-Desktop-Setup mit GitHub, Slack, Sentry und Grafana, bei dem allein Tool-Definitionen rund 55.000 Token verbrauchen können.

Zum Schluss stellt er Ringer vor, ein lokales Multi-Agent-Framework zwischen AI-Tool und Modellanbieter. Es kann lokal antworten, feste Rezepte ausführen, nur nützliche Passagen weiterleiten, harte Limits erzwingen oder eine zu große Anfrage stoppen.

Kernaussage

Größere Kontextfenster werden helfen, ersetzen aber keine Kontextdisziplin. Wer AI intensiv nutzt, braucht weniger Rauschen, wiederauffindbare akzeptierte Antworten, selektiv geladene Tools und klare Grenzen für große oder wiederholte Arbeit.

Source