Context en tokens

In les 2.5 ontmoette je het context window: het werkgeheugen van Claude voor één chat. Hoe het precies werkt, lieten we toen liggen. Nu duiken we erin.

En dat loont snel. Zie je eenmaal wat dat window vult en waarom een lange chat wazig wordt, dan stop je met vechten tegen Claude en begin je te sturen. Wat levert dat op? Scherpere antwoorden, minder dubbel werk, en chats die na twee uur niet uit elkaar vallen.

Eerst: wat is een token?

Claude leest geen letters en ook geen hele woorden. Het leest tokens: kleine stukjes tekst. Eén token is zo'n vier tekens, of grofweg driekwart woord. Dus 100 tokens, dat is ongeveer 75 woorden, en een volle pagina tekst zit rond de 500 tokens.

Waarom zou je om zo'n stukje tekst geven? Omdat tokens de munt van alles zijn. De grootte van het window? Geteld in tokens. De kost? In tokens. En de snelheid gaat mee: meer tokens erin, meer om te verwerken, dus langer wachten op je antwoord. Vraag je dus "hoeveel tokens is dit?", dan vraag je eigenlijk "hoeveel ruimte, geld en tijd kost dit?"

Wat zit er echt in het window?

Denk even aan je bureau. Het context window is het bureaublad zelf: alles waar Claude naar kan kijken terwijl het werkt. Geen archiefkast vol oude chats, dus. Alleen wat er nu op het bureau ligt, in deze chat.

Drie dingen delen dat blad:

• De bestanden die je toevoegde. Uploads, geplakte tekst, materiaal uit een project.
• Het hele gesprek tot nu toe. Elk bericht, van jou en van Claude, tot helemaal bovenaan.
• Het antwoord dat Claude aan het schrijven is. Er blijft altijd een stukje vrij voor dat antwoord, dus de ruimte die jij mag vullen is net iets kleiner dan het volle getal.

Hoe groot is dat bureau? Chat je in claude.ai op een betaald plan, dan loopt het van 200.000 tokens tot 1.000.000, afhankelijk van welk model je kiest. Het nieuwste haalt het volle miljoen; de meeste zitten op 200.000. Een miljoen tokens in mensentaal? Grofweg 750.000 woorden, een paar dikke boeken. Klinkt eindeloos. Is het niet, en net daarom telt dit.

Waarom lange chats gaan zweven

Het bureau is groot, maar het loopt vol. Nadert een chat de limiet, dan doet Claude iets slims: het vat het begin samen om ruimte te maken, en gaat door. Je volledige geschiedenis blijft bewaard, maar wat Claude actief vasthoudt wordt een kortere samenvatting van de start plus het recente detail. (Op betaalde plannen gebeurt dit vanzelf, zolang file creation aanstaat. Betrap je Claude er soms op dat het midden in een chat "zijn gedachten ordent"? Dat is die opkuis aan het werk.)

Een samenvatting is nu eenmaal kleiner dan het echte werk, dus fijn detail kan sneuvelen. Zo voelt dat zweven voor jou aan:

• Het herhaalt een punt dat het al maakte.
• Het vergeet een instructie die je bovenaan gaf.
• Het wordt vlakker, of ietsje vager, dan een uur geleden.
• Het spreekt zichzelf tegen over iets dat eerder was afgesproken.

Er is ook een subtielere variant. Zelfs onder de limiet maakt een heel lang, rommelig window het moeilijker voor Claude om net dat ene stuk te vinden dat telt. Denk aan een volgestouwd bureau dat precies die ene pagina bedelft die je zoekt. Anthropic noemt dit context rot: meer spul in het window is niet vanzelf beter. Wat erin zit telt even hard als hoeveel erin past.

Wanneer begin je opnieuw, en hoe neem je je werk mee

De oplossing is geen truc, maar een gewoonte: één onderwerp per chat, en begin opnieuw zodra het onderwerp verandert of de antwoorden beginnen te slippen. Een nieuwe chat is een leeg bureau, met het hele window weer voor jou.

Bang om de draad kwijt te raken? Logisch, maar dat hoeft niet. Draag je werk bewust over:

Voor we stoppen, schrijf een korte overdracht die ik in een nieuwe chat kan plakken.
Zet erin: wat we beslist hebben, de huidige versie, en de open vragen.
Houd het bondig.

Neem die samenvatting, open een verse chat, plak ze erin en werk verder. Je houdt de draad en dumpt het dode gewicht. Kom je er vaak op terug? Zet die samenvatting dan in een project (dat is les 4.3), zo ligt ze klaar voor de volgende keer.

Houd het window aan jouw kant

Een paar kleine zetten houden meer ruimte vrij voor het echte werk:

• Geef het licht materiaal. Les 2.5 waarschuwde al: een PDF wordt als beeld gelezen en een Word-bestand sleept verborgen opmaak mee, dus beide wegen zwaar. Platte tekst en Markdown dragen dezelfde woorden voor een fractie van de ruimte. Heb je het format zelf in de hand en is het materiaal groot of komt het vaak terug? Kies dan .md of .txt.
• Zet uit wat je niet gebruikt. Web search, connectors en extra tools zijn token-hongerig, alleen al door aan te staan. Zet dus alles uit wat deze chat niet nodig heeft.
• Verlaag de effort, of zet extended thinking uit bij routineklussen. Allebei geven ze tokens uit die je voor een snelle taak misschien niet nodig hebt.
• Gebruik projects voor grote naslagsets. Een project laadt alleen het relevante stukje van je bestanden in het window, niet de hele stapel, zodat je op veel meer materiaal kan leunen zonder het bureau te verstoppen. Meer daarover in les 4.3.

De vuistregel: een schone, gerichte chat wint altijd van een reusachtige uitgezakte. Geef Claude wat de taak nodig heeft, en niet veel meer.

Waar dit heen gaat

Nu heb je de twee hendels beet die bepalen hoe goed elk lang stuk werk loopt: wat je in het window zet, en wanneer je het leegmaakt. Dat is de stille vaardigheid achter elke power user.

Verderop in Part 4 stoppen we met losse chats beheren en gaan we je beste werk hergebruiken. Claude Skills verpakken een set instructies, zodat Claude een klus elke keer op dezelfde manier doet. Projects houden bestanden, context en chats samen. Allebei bouwen ze recht op wat je net leerde.