Finestra di contesto: cos'è e perché l'AI 'dimentica' nelle chat lunghe
Ti è successo di sicuro: apri una chat con ChatGPT o Claude, va tutto benissimo per mezz'ora, poi qualcosa si rompe. Il modello si dimentica un'istruzione che gli avevi dato all'inizio, ripete cose già dette, contraddice se stesso, oppure inizia a rispondere come se non avesse letto i tuoi ultimi messaggi. La reazione istintiva è "l'AI è peggiorata" o "oggi funziona male". Quasi sempre non è così: hai semplicemente riempito la finestra di contesto, ed è la cosa più utile che tu possa imparare a gestire per usare bene un assistente AI.
Questo articolo spiega cos'è la finestra di contesto senza matematica, perché le chat lunghe degradano in modo prevedibile, e le mosse concrete per tenere le risposte affidabili. Vale identico per ChatGPT, Claude, Gemini e qualsiasi altro assistente: cambiano i numeri, non il meccanismo.
Cos'è la finestra di contesto
Un modello linguistico non ha memoria nel senso in cui la intendiamo noi. Non "ricorda" la conversazione: a ogni risposta rilegge da capo tutto ciò che gli hai passato — le tue domande, le sue risposte precedenti, le istruzioni di sistema, i documenti che hai incollato — e produce la continuazione più plausibile. Quel "tutto ciò che gli hai passato" ha un limite di dimensione, misurato in token (pezzi di parola: grosso modo, 100 token valgono 70-75 parole in italiano). Quel limite è la finestra di contesto.
L'immagine giusta non è quella della memoria a lungo termine, ma della memoria di lavoro: una scrivania di dimensione fissa. Finché i fogli ci stanno, il modello vede tutto e lavora bene. Quando la scrivania è piena e ne arrivano di nuovi, qualcosa deve uscire — e quello che esce, il modello non lo vede più. Non c'è un cassetto dove finisce: semplicemente scompare dal suo campo visivo.
Le finestre moderne sono grandi (si parla di centinaia di migliaia di token, a volte un milione), e questo ha alzato molto l'asticella. Ma "grande" non vuol dire "infinita", e soprattutto non vuol dire "usata tutta bene". È qui che nasce il problema.
Perché le chat lunghe peggiorano
Ci sono due fenomeni distinti, ed è utile tenerli separati.
Lo sfioramento del limite
Il primo è banale: superi la capienza. Nelle conversazioni molto lunghe, o quando hai incollato documenti enormi, i messaggi più vecchi vengono spinti fuori dalla finestra. Il modello che "si dimentica" la regola data all'inizio non ti sta ignorando: quella regola, letteralmente, non è più tra i fogli sulla scrivania. Da qui una prima regola pratica: le istruzioni che contano vanno ripetute quando servono, non date una volta e date per acquisite.
Il degrado dell'attenzione (context rot)
Il secondo fenomeno è più sottile e meno noto. Anche quando tutto ci sta nella finestra, la qualità cala man mano che il contesto si riempie. I ricercatori lo chiamano context rot: più token ci sono, meno il modello è preciso nel ritrovare e usare l'informazione giusta. Non è un guasto, è una caratteristica dell'architettura: il modello ha una specie di "budget di attenzione" limitato, e ogni token in più lo diluisce un po'. Come una persona a cui chiedi di tenere a mente cinquanta cose insieme: non le dimentica, ma inizia a confonderle.
La conseguenza è controintuitiva e importante: riempire la finestra fino all'orlo non è gratis. Incollare tre documenti "così ce li ha" quando te ne serviva uno solo non aiuta il modello, lo distrae. Il contesto va trattato come una risorsa preziosa e limitata, non come un magazzino da riempire. Il principio che gli addetti ai lavori chiamano context engineering si riduce, per chi usa l'AI tutti i giorni, a una frase: metti nel contesto il minor numero di informazioni ad alto valore, non il maggior numero possibile.
Le mosse che funzionano
Non serve capire i transformer per gestire bene la finestra di contesto. Servono cinque abitudini.
Apri una nuova chat quando cambi argomento. È la mossa singola più efficace e quella che quasi nessuno fa. Ogni chat parte con la scrivania pulita. Se hai finito di lavorare sulla mail al cliente e ora vuoi un'analisi di un CSV, non continuare nella stessa conversazione: tutto il testo della mail resterebbe sulla scrivania a diluire l'attenzione sul CSV. Una chat, un compito.
Riassumi e riparti quando la chat si allunga. Se una conversazione lunga è stata utile ma inizia a rallentare o a sbagliare, chiedi al modello: "riassumi in 10 punti le decisioni e i vincoli che abbiamo stabilito finora". Copi il riassunto, apri una chat nuova, lo incolli come punto di partenza. Hai appena fatto a mano quello che i sistemi avanzati chiamano compaction: butti il rumore, tieni il segnale.
Dai i documenti, non la libreria. Se la risposta deve basarsi su un testo, incolla quel testo — non cinque testi "per sicurezza". Ogni documento irrilevante è budget di attenzione sprecato. Se non sei sicuro di quale parte serva, incolla la parte, non il tutto.
Ripeti i vincoli critici. Le istruzioni che non puoi permetterti di perdere ("rispondi sempre in italiano", "massimo 100 parole", "tono formale") vanno ribadite nel messaggio in cui contano davvero, soprattutto nelle chat lunghe. Non è ridondanza inutile: è assicurarti che il foglio giusto sia in cima alla pila.
Sfrutta la memoria persistente con giudizio. Molti assistenti oggi hanno una funzione "memoria" che conserva informazioni tra una chat e l'altra (le tue preferenze, il tuo lavoro). È comoda per i fatti stabili su di te, ma non è la finestra di contesto e non risolve il context rot dentro la singola conversazione. Usala per ciò che è permanente, non per gestire il compito del momento.
Il segnale da imparare a riconoscere
C'è un momento preciso in cui conviene fermarsi e ripartire pulito, e imparare a sentirlo vale più di qualsiasi regola numerica. I sintomi sono sempre gli stessi: il modello ripete cose già dette, "dimentica" un'istruzione iniziale, diventa vago dove prima era preciso, o ti chiede informazioni che gli avevi già dato. Quando li vedi, non insistere riformulando la stessa domanda nella stessa chat esausta: quasi sempre peggiora. Riassumi, apri una chat nuova, riparti. Trenta secondi di "reset" battono dieci minuti passati a litigare con una scrivania intasata.
Capire questo cambia anche il modo in cui leggi le novità del settore. Quando un modello annuncia "un milione di token di contesto", ora sai leggere la notizia con la giusta calibrazione: è tanto spazio in più, utilissimo per lavorare su documenti lunghi, ma il budget di attenzione resta finito e la gestione intelligente del contesto non diventa inutile — diventa, semmai, ciò che distingue chi ottiene risposte affidabili da chi ottiene solo risposte lunghe.
Prova subito
Prendi una chat lunga che hai già aperto — una di quelle dove hai lavorato a lungo su qualcosa. Scrivi: "riassumi in 10 punti le decisioni, i vincoli e i dati che abbiamo stabilito in questa conversazione". Guarda il riassunto: noterai che il modello, costretto a distillare, ti mostra anche cosa aveva capito bene e cosa no. Copialo, apri una chat nuova, incollalo e continua da lì. Confronta la qualità delle risposte prima e dopo il reset: quella differenza, sul tuo caso reale, è la lezione che questo articolo può solo descrivere.
Per il quadro completo — cos'è un token, come funziona la predizione, dove finisce davvero la "memoria" del modello — c'è il capitolo Cos'è un LLM nella dispensa del Livello 0; per fare il salto da "scrivere prompt" a "gestire il contesto" c'è il capitolo sul context engineering nel Livello 1.