Allucinazioni AI: come riconoscerle prima che ti facciano male
Un testo generato da un'AI che contiene un'informazione falsa non ha niente che lo distingua da uno corretto. Stessa sintassi curata, stesso tono sicuro, stessa aria di chi sa di cosa parla. È questo — non l'errore in sé — il problema delle allucinazioni: non sembrano errori. Un refuso si vede, una frase sgrammaticata insospettisce; una sentenza inventata di sana pianta, con numero di ruolo e anno plausibili, si legge esattamente come una vera.
Questa guida spiega perché succede, dove succede più spesso e come difendersi con tre tecniche che costano meno di due minuti. Nessuna richiede competenze tecniche.
Cos'è un'allucinazione (e perché non è un bug)
Un modello linguistico non consulta un archivio di fatti: genera la continuazione più plausibile del testo che ha davanti, un token alla volta. Quando la risposta giusta è anche la più plausibile — ed è il caso più frequente, perché il modello ha "letto" una porzione enorme di internet — il meccanismo produce informazioni corrette. Quando il modello non sa, il meccanismo non si ferma: produce comunque la continuazione più plausibile, che a quel punto è una frase dall'aria giustissima e dal contenuto inventato.
Il punto da fissare è che i due casi sono indistinguibili dall'esterno, perché il processo che li genera è identico. Il tono sicuro non è arroganza del modello: è l'unico tono che il modello conosce, dato che il testo su cui è stato addestrato raramente dice "non ne ho idea" nel mezzo di una spiegazione.
Per questo l'allucinazione non è un difetto che i produttori "sistemeranno con il prossimo aggiornamento". I modelli migliorano, la frequenza cala, ma il fenomeno è strutturale: finché la generazione è predizione probabilistica di testo, la possibilità di una continuazione plausibile ma falsa resta. Chi ti promette un'AI che non allucina mai ti sta vendendo qualcosa.
Dove si concentrano: le tre zone a rischio
La buona notizia è che le allucinazioni non sono distribuite a caso. Si addensano in tre zone prevedibili, e conoscerle vale metà della difesa.
I dettagli specifici e verificabili
Nomi propri, date, numeri, percentuali, citazioni letterali, riferimenti normativi, URL, titoli di libri e di paper. Più un dettaglio è preciso e raro, più va verificato: il modello ricostruisce statisticamente, e la statistica sui dettagli rari è debole. Il paradosso tipico è la frase corretta nell'impianto e sbagliata nel numero che contiene: "il regolamento europeo impone la valutazione di conformità" (vero) "entro il termine di 18 mesi dall'entrata in vigore" (inventato, oppure preso da un'altra norma).
Le domande su argomenti di nicchia
Sul tema famoso il modello ha visto migliaia di testi durante l'addestramento; sulla nicchia — la tua azienda, il paese di provincia, il regolamento del tuo settore, la persona non famosa — ha visto poco o nulla. E dove il materiale manca, riempie i vuoti con ciò che è tipico di casi simili. Regola pratica: più la domanda è di nicchia, meno fiducia merita la risposta. Se l'argomento lo conosci solo tu e altri mille, il modello sta quasi certamente improvvisando.
Tutto ciò che è successo dopo il training
Ogni modello ha una data di taglio della conoscenza: gli eventi successivi, per lui, non esistono. Su questi temi non allucina "per sbaglio" — non può proprio sapere, quindi inventa o mescola informazioni vecchie presentandole come attuali. Prezzi, versioni di software, cariche pubbliche, classifiche: tutto ciò che cambia nel tempo è a rischio. Se il tema è attuale, serve un assistente con ricerca web attiva, e comunque la fonte va aperta e letta.
Come verificare: tre tecniche in due minuti
Chiedi le fonti
Aggiungi alla richiesta: "indica la fonte di ogni affermazione fattuale". Non è una garanzia — il modello può inventare anche le fonti, ed è successo — ma sposta il problema su un terreno dove sei più forte: un'affermazione è difficile da verificare, un titolo di articolo o una sentenza si controllano in trenta secondi con una ricerca. Se la fonte non esiste, hai smascherato l'allucinazione; se esiste, aprila e verifica che dica davvero quello che il modello le attribuisce.
Fai il secondo giro
Alla risposta ricevuta, replica: "Sei sicuro? C'è qualcosa in questa risposta di cui non sei certo?". Sembra ingenuo, funziona sorprendentemente spesso: i modelli recenti, interrogati così, segnalano da soli i punti deboli — "il dato sul 2024 potrebbe non essere aggiornato", "il riferimento normativo andrebbe verificato". Non è che il modello "sapesse di mentire": è che la domanda esplicita sposta la generazione verso il registro dell'autovalutazione, dove la plausibilità premia la prudenza.
Applica la regola del costo dell'errore
Non tutto va verificato con lo stesso rigore, altrimenti l'AI diventa inutilizzabile. La regola che usiamo nel percorso è semplice: chiediti quanto costa sbagliare. Se l'errore costa poco — un'idea per un titolo, una ricetta, una bozza da rileggere comunque — fidati e vai. Se l'errore costa caro — questioni legali, mediche, finanziarie, qualsiasi cosa che porti la tua firma o esca verso un cliente — ogni fatto va verificato su una fonte primaria. Sempre, senza eccezioni, indipendentemente da quanto la risposta sembri convincente.
"Ma il mio assistente ha la ricerca web"
La ricerca web attiva riduce le allucinazioni, non le elimina. Il modello cerca, legge i risultati e poi riassume a modo suo: può fraintendere la fonte, fondere due articoli diversi, o attribuire alla pagina cose che la pagina non dice. La ricerca sposta il problema da "il modello inventa il fatto" a "il modello interpreta la fonte" — un problema più piccolo, ma vivo. La regola resta identica: se il fatto conta, apri il link e leggi con i tuoi occhi. Il vantaggio vero della ricerca è proprio questo: ti mette i link davanti, rendendo la verifica un clic invece di un'indagine.
Il caso dell'avvocato e ChatGPT
Il caso di scuola è del 2023, tribunale federale di New York: un avvocato deposita una memoria con sei precedenti giurisprudenziali suggeriti da ChatGPT. Nomi delle parti, numeri di ruolo, citazioni: tutto inventato. Il giudice se ne accorge, l'avvocato viene sanzionato e il caso fa il giro del mondo.
L'errore interessante non è "ha usato l'AI": è dove si è fidato. Sentenze con estremi precisi sono esattamente la zona a rischio numero uno (dettagli specifici e verificabili) nel dominio dove l'errore costa di più. E la verifica sarebbe stata banale: i precedenti si controllano nelle banche dati in pochi minuti — la tecnica "chiedi le fonti e aprile" avrebbe fermato tutto. Da allora i casi analoghi si sono moltiplicati, segno che la lezione è meno ovvia di quanto sembri.
La morale non è "non usare l'AI per il lavoro serio". È: l'obiettivo non è non fidarsi mai — così l'AI diventa inutile — ma calibrare la fiducia. Alta sul ragionamento, sulla struttura, sulla riscrittura, sulla sintesi di testi che fornisci tu. Bassa, fino a verifica, sui fatti specifici che il modello tira fuori dalla memoria.
Prova subito
Chiedi al tuo assistente la biografia di una persona che conosci bene ma che non è famosa: un collega con qualche traccia online, un parente, tu stesso. Poi conta gli errori dichiarati con sicurezza: date sbagliate, ruoli mai ricoperti, dettagli presi da omonimi. Dieci minuti di questo esercizio vaccinano meglio di qualunque articolo — incluso questo.
Se vuoi andare a fondo sul meccanismo, il capitolo della dispensa sul perché l'AI inventa spiega la predizione token per token; il quiz del Livello 0 nell'app ti dice se i concetti sono davvero tuoi.