Le allucinazioni dei modelli linguistici — la generazione di informazioni false presentate come vere, in modo coerente e plausibile — restano il problema tecnico più discusso e meno risolto dell’IA generativa a inizio 2026. Ogni laboratorio dichiara progressi nella riduzione degli errori fattuali: OpenAI afferma che GPT-5.4 riduce del 33% la probabilità che una singola affermazione sia falsa rispetto a GPT-5.2. Anthropic pubblica schede di sicurezza con metriche di allucinazione per ogni versione di Claude. Google integra in Gemini meccanismi di verifica delle fonti. Ma come si misurano effettivamente le allucinazioni? E quanto sono affidabili le metriche utilizzate? La questione non è accademica: riguarda chiunque usi un modello linguistico per prendere decisioni, produrre documenti o fornire informazioni a terzi.
Cosa sono le allucinazioni e perché persistono
Un’allucinazione, nel contesto dei modelli linguistici, si verifica quando il modello genera un output che appare linguisticamente corretto e logicamente coerente ma contiene informazioni fattuali errate, inventate o fuorvianti. Il fenomeno ha una causa strutturale: i modelli linguistici generano testo calcolando la sequenza di parole più probabile dato il contesto, non verificando la verità di ciò che producono. Non hanno un modello del mondo — non “sanno” se qualcosa è vero o falso. Producono testo che somiglia a testo vero, perché sono stati addestrati su enormi quantità di testo vero, ma la somiglianza non è garanzia di correttezza.
Le allucinazioni si manifestano in forme diverse. Quella più comune è la fabbricazione: il modello inventa un dato, una citazione, un riferimento bibliografico, un evento storico che non esiste. Quella più insidiosa è la distorsione: il modello prende un’informazione reale e la modifica in modo sottile — cambia una data, confonde due persone, inverte una relazione causale — producendo un output che è quasi vero ma non del tutto. Quella più difficile da individuare è l’interpolazione plausibile: il modello combina informazioni vere in modi che producono una conclusione falsa, seguendo un ragionamento che appare logico ma che parte da premesse mescolate o incomplete.
Il problema persiste nonostante i progressi per una ragione tecnica precisa. Ridurre le allucinazioni richiede al modello di “sapere cosa non sa” — cioè di riconoscere i limiti della propria conoscenza e rifiutarsi di rispondere quando non ha informazioni sufficienti. Questa capacità, nota come calibrazione epistemica, è migliorata nelle generazioni recenti di modelli ma resta imperfetta. Un modello ben calibrato dovrebbe dire “non so” quando non è sicuro. In pratica, i modelli tendono a generare una risposta comunque, con un livello di confidenza che non corrisponde alla probabilità effettiva che la risposta sia corretta.
I metodi di misurazione: benchmark dedicati e test indipendenti
La misurazione delle allucinazioni si basa su diverse metodologie, nessuna delle quali è universalmente accettata come standard definitivo. Il metodo più comune è il confronto con fonti verificate: si pone al modello una serie di domande su fatti noti e si verifica quante risposte contengono errori fattuali. Questo approccio è semplice ma limitato: funziona bene per fatti oggettivi (date, nomi, numeri) ma non cattura le distorsioni sottili o le interpolazioni plausibili.
Un secondo metodo è il test di coerenza interna: si pone la stessa domanda al modello in forme diverse e si verifica se le risposte sono coerenti tra loro. Se il modello afferma in una risposta che un evento è avvenuto nel 2019 e in un’altra che è avvenuto nel 2021, almeno una delle due è un’allucinazione. Questo metodo non richiede fonti esterne ma non distingue tra risposte consistentemente vere e risposte consistentemente false.
Un terzo metodo, più sofisticato, è la verifica umana su campioni: un panel di esperti valuta un campione di risposte del modello su un dominio specifico (medicina, diritto, finanza) e classifica ogni affermazione come corretta, parzialmente corretta o errata. Questo metodo è il più accurato ma anche il più costoso e il meno scalabile. OpenAI lo utilizza per le metriche dichiarate su GPT-5.4: l’affermazione che le risposte sono il 33% meno propense a contenere errori si basa su valutazione umana di campioni di output su prompt rappresentativi del traffico reale di ChatGPT.
Tra i benchmark specifici, il VERTU ranking — che valuta l’affidabilità fattuale dei modelli su domini diversi — è diventato un riferimento nel 2025-2026. Epoch AI ha integrato metriche di allucinazione nel proprio indice composito. Diversi gruppi di ricerca hanno proposto benchmark settoriali: test di allucinazione su domande mediche, su citazioni scientifiche, su riferimenti giuridici. Il problema è che ogni benchmark misura un aspetto diverso del fenomeno, e non esiste ancora un modo standardizzato per aggregare i risultati in un punteggio unico che sia informativo e non fuorviante.
Un aspetto particolarmente rilevante per il contesto professionale è la differenza tra allucinazioni in dominio generale e allucinazioni in dominio specifico. Un modello che produce poche allucinazioni su domande di cultura generale può allucinare molto di più su domande di diritto tributario italiano, di normativa farmaceutica europea o di regolamentazione bancaria — semplicemente perché ha visto meno dati di addestramento in quei domini specifici. I benchmark generici non catturano questa variabilità settoriale, il che significa che un punteggio buono su un test generale non garantisce affidabilità nell’uso professionale specialistico. Le imprese che adottano modelli linguistici per compiti di dominio — consulenza legale, analisi finanziaria, reportistica medica — dovrebbero condurre test di allucinazione propri, sul proprio dominio, con i propri casi d’uso.
Un secondo problema metodologico riguarda la distinzione tra allucinazioni verificabili e allucinazioni non verificabili. Se il modello afferma che la popolazione di una città è X quando è Y, l’allucinazione è verificabile: basta controllare il dato. Se il modello produce un ragionamento che contiene un passaggio logico errato ma plausibile, l’allucinazione è molto più difficile da individuare — richiede competenza nel dominio e attenzione al dettaglio. I benchmark tendono a misurare le allucinazioni verificabili perché sono più facili da automatizzare; le allucinazioni non verificabili restano in gran parte fuori dalla misurazione, il che significa che i tassi di errore reali sono probabilmente più alti di quelli dichiarati.
I progressi reali: riduzione ma non eliminazione
I dati disponibili indicano che le allucinazioni si stanno riducendo generazione dopo generazione, ma a un ritmo che non consente di prevederne l’eliminazione nel breve periodo. OpenAI dichiara che GPT-5, rispetto a GPT-4o, riduce gli errori fattuali del 45% quando la ricerca web è attiva e dell’80% rispetto a o3 in modalità ragionamento. GPT-5.4 aggiunge un ulteriore miglioramento del 33% per singola affermazione e del 18% per risposta completa rispetto a GPT-5.2. Queste percentuali sono significative ma non radicali: un miglioramento del 33% significa che un modello che prima sbagliava una volta su dieci ora sbaglia poco meno di una volta su quindici. Per usi ad alta affidabilità — risposte mediche, consulenze legali, report finanziari — il tasso di errore residuo resta troppo alto per un utilizzo senza supervisione umana.
Le tecniche utilizzate per ridurre le allucinazioni sono molteplici. Il retrieval-augmented generation (RAG) consente al modello di accedere a fonti esterne verificate prima di rispondere — una tecnica che riduce le allucinazioni su fatti verificabili ma non elimina quelle su inferenze e ragionamenti. Il reinforcement learning from human feedback (RLHF) insegna al modello a preferire risposte accurate e a segnalare incertezza — una tecnica efficace ma che può avere l’effetto collaterale di rendere il modello eccessivamente cauto, rifiutandosi di rispondere a domande legittime. Il chain-of-thought reasoning, utilizzato nei modelli con capacità di ragionamento esteso come GPT-5 Thinking e Claude, riduce gli errori logici forzando il modello a esplicitare i passaggi intermedi — ma non garantisce che i fatti utilizzati nei passaggi siano corretti.
Il caso DeepSeek e il precedente AGCM
Il tema della misurazione delle allucinazioni ha assunto rilevanza giuridica con il caso DeepSeek in Italia. L’AGCM ha contestato a DeepSeek non il fatto che il modello allucinasse — tutti i modelli lo fanno — ma il fatto che non informasse gli utenti di questo rischio in modo chiaro e in lingua italiana. Gli impegni vincolanti accettati da DeepSeek includono, oltre alla comunicazione migliorata, un piano tecnico di riduzione delle allucinazioni in tre fasi: filtraggio dei dati di addestramento, post-training con reinforcement learning mirato e accesso a fonti esterne per la verifica delle informazioni.
Il precedente è rilevante perché stabilisce che la trasparenza sul tasso di allucinazione non è solo una questione tecnica ma anche legale e commerciale. Un fornitore di modelli linguistici che non comunica il rischio di errori fattuali ai propri utenti può essere perseguito per pratica commerciale scorretta. Questo significa che le metriche di allucinazione — per quanto imperfette e non standardizzate — diventano parte della documentazione che i fornitori devono essere in grado di produrre e aggiornare.
Implicazioni pratiche per le imprese e i professionisti italiani
Per chi usa modelli linguistici in ambito professionale, il messaggio è pragmatico. Le allucinazioni non sono un bug che verrà corretto nella prossima versione: sono una caratteristica strutturale dei modelli attuali che migliora progressivamente ma non scompare. Ogni output generato da un modello linguistico dovrebbe essere trattato come una bozza da verificare, non come un prodotto finito. Questo vale in particolare per i settori dove un errore fattuale ha conseguenze dirette: diritto, medicina, finanza, comunicazione pubblica.
Le imprese che integrano modelli linguistici nei propri processi dovrebbero implementare procedure di verifica sistematiche: controlli a campione sugli output, revisione umana dei documenti generati prima della distribuzione, comparazione con fonti esterne per i dati fattuali critici. Il costo di queste verifiche è un costo operativo reale che va incluso nel calcolo del ritorno sull’investimento dell’IA. Un modello linguistico che genera bozze accurate all’85% e richiede il 15% di verifica umana è comunque più efficiente di un processo interamente manuale — ma solo se la verifica viene effettivamente eseguita e non saltata per fretta o eccesso di fiducia nella macchina.
Alcune aziende stanno sperimentando approcci strutturati alla verifica. Il più promettente è il doppio controllo automatizzato: un secondo modello linguistico verifica l’output del primo, cercando specificamente affermazioni fattuali non supportate, riferimenti inesistenti e incoerenze logiche. L’approccio non elimina le allucinazioni — il secondo modello può sbagliare a sua volta — ma riduce la probabilità che un errore grave sfugga al processo. Il costo è raddoppiato rispetto a una singola generazione, ma per documenti ad alta responsabilità — perizie, pareri legali, report finanziari — il costo della verifica è trascurabile rispetto al costo dell’errore.
Per le associazioni professionali, il tema delle allucinazioni è un’opportunità formativa. Insegnare ai professionisti come riconoscere le allucinazioni, come progettare prompt che le riducano e come costruire flussi di lavoro che includano la verifica è un servizio concreto che poche realtà offrono in modo strutturato. La competenza nell’uso dell’IA non è solo saper fare la domanda giusta: è saper valutare criticamente la risposta, riconoscere quando il modello sta inventando e intervenire prima che l’errore raggiunga il cliente, il tribunale o il mercato.
