Nel 2020 un gruppo di ricercatori di Facebook AI guidato da Patrick Lewis ha pubblicato un paper che introduceva un acronimo destinato a diventare una delle architetture più usate dell’IA applicata: RAG, retrieval-augmented generation, generazione aumentata dal recupero. L’idea era collegare un modello linguistico a una fonte esterna di conoscenza, da consultare al momento della risposta.
Sei anni dopo, quell’idea è diventata la spina dorsale degli agenti che le imprese mandano in produzione. Senza recupero e senza memoria, un agente resta un chatbot. Con essi, diventa qualcosa che mantiene il filo.
Il problema che RAG risolve
Un modello linguistico sa quello che ha visto durante l’addestramento e nulla di più. Non conosce i documenti interni di un’azienda, non sa cosa è successo dopo la data di taglio del suo addestramento, non ha accesso al database dei clienti. Se gli si chiede qualcosa al di fuori della sua conoscenza, risponde comunque, spesso inventando con sicurezza una risposta plausibile ma falsa.
È un comportamento noto e pericoloso. Il modello non distingue tra ciò che sa e ciò che ignora: in entrambi i casi produce testo fluente. La sicurezza con cui formula una risposta inventata è identica a quella con cui formula una corretta.
RAG interviene qui. Prima di rispondere, il sistema recupera i documenti pertinenti da una fonte esterna e li passa al modello come contesto. Il modello non risponde più a memoria: risponde leggendo materiale aggiornato e specifico, fornito al momento.
Il vantaggio è doppio. La risposta si fonda su fonti verificabili e non sulla sola memoria parametrica del modello. E quelle fonti si aggiornano senza riaddestrare il modello: basta aggiornare il magazzino di documenti, un’operazione rapida ed economica rispetto al riaddestramento.
È la differenza tra un esperto che risponde a braccio, fidandosi della propria memoria, e uno che, prima di parlare, apre il fascicolo giusto e legge cosa c’è scritto.
Questo non rende RAG infallibile, ma sposta il problema in un punto più gestibile. Invece di sperare che il modello ricordi correttamente, ci si concentra sul fornirgli le fonti giuste. Migliorare le risposte diventa, in larga parte, migliorare il recupero, un’attività concreta su cui si può lavorare in modo sistematico.
Ed è anche più trasparente. Una risposta costruita su documenti recuperati può citare le proprie fonti, permettendo all’utente di verificare. Una risposta tirata fuori dalla sola memoria del modello arriva senza tracce, da prendere o lasciare. La verificabilità, in molti contesti professionali, vale quanto la correttezza.
Dal recupero alla memoria
RAG da solo risolve la conoscenza, non la continuità. Recupera i documenti giusti per una domanda, ma non ricorda cosa è successo nella conversazione di ieri, né lo stato di un progetto seguito da settimane.
Qui entra la memoria persistente.
Gli agenti del 2026 mantengono lo stato di un progetto e di un cliente tra un compito e l’altro, spesso appoggiandosi a sistemi di recupero e a magazzini di conoscenza, i knowledge store. Quando l’agente finisce una sessione, ciò che ha appreso, le decisioni prese, i dati raccolti, non evapora: viene archiviato e ritrovato alla ripresa.
La memoria si organizza su più livelli. C’è la memoria di breve termine, il contesto della conversazione in corso, che dura quanto l’interazione. C’è quella di lungo termine, che conserva fatti e preferenze attraverso le sessioni, permettendo all’agente di ricordare un cliente da una settimana all’altra. E c’è la conoscenza di dominio, i documenti aziendali a cui l’agente attinge via recupero quando serve.
Tre serbatoi diversi, che insieme danno all’agente qualcosa che assomiglia alla continuità. Senza questa stratificazione, l’agente o dimentica tutto in fretta o si carica di un contesto ingestibile.
Gestire questi livelli è una delle scelte progettuali più delicate. Cosa promuovere dalla memoria di breve a quella di lungo termine, cosa lasciar svanire, ogni quanto rivedere ciò che è stato conservato. Una memoria che trattiene tutto diventa ingombrante e costosa da consultare. Una che dimentica troppo perde il suo scopo.
La maggior parte dei sistemi adotta criteri espliciti: si conservano i fatti stabili e le decisioni prese, si lasciano cadere le digressioni e i dettagli effimeri. È un equilibrio simile a quello della memoria umana, che non registra ogni istante ma seleziona ciò che vale la pena ricordare.
La memoria persistente, inoltre, va tenuta pulita nel tempo. Informazioni vere sei mesi fa possono non esserlo più, e un sistema che non aggiorna o archivia ciò che conserva finisce per ragionare su premesse superate. La manutenzione della memoria è un’attività ricorrente, non un’operazione che si fa una volta sola.
Cosa distingue un agente da un chatbot
La distinzione è netta e vale la pena renderla esplicita, perché è spesso confusa.
Un chatbot tradizionale tratta ogni conversazione come isolata. Risponde bene nell’istante, dimentica tutto alla chiusura. È utile per domande puntuali, una richiesta di informazioni, una traduzione, ma inadatto a seguire un lavoro che dura nel tempo.
Un agente con RAG e memoria persistente accumula. Sa che la settimana scorsa hai aperto una pratica, ricorda lo stato in cui l’avete lasciata, recupera i documenti pertinenti senza che glieli si ricarichi ogni volta. La continuità trasforma uno strumento conversazionale in un collaboratore che mantiene il contesto e costruisce sul lavoro già fatto.
È questa continuità, più della brillantezza delle singole risposte, che decide se un agente vale il suo costo in un processo reale. Un agente brillante ma smemorato è meno utile di uno meno appariscente ma capace di tenere il filo.
I limiti che nessuno racconta nei comunicati
RAG e memoria non sono magia, e ignorarne i limiti porta a sistemi fragili.
Il primo limite è la qualità del recupero. Se il sistema recupera i documenti sbagliati, il modello risponde basandosi su materiale irrilevante o errato, e lo fa con la stessa sicurezza con cui risponderebbe a quello giusto. Un recupero impreciso non produce un errore evidente: produce un errore plausibile, fondato su una fonte sbagliata ma presentato come affidabile. Ed è peggio, perché più difficile da individuare.
Per questo i sistemi seri misurano la qualità del recupero invece di darla per scontata. Si verifica, su un insieme di domande di prova, se i documenti recuperati sono davvero quelli pertinenti, e si interviene quando non lo sono. È un controllo continuo, non un’impostazione iniziale da dimenticare.
Il secondo limite riguarda la memoria che si sporca. Se un agente archivia informazioni errate o superate, le ritroverà e le tratterà come valide. La memoria persistente conserva anche gli sbagli, e senza meccanismi di pulizia e aggiornamento li perpetua, costruendo conoscenza futura su basi marce.
C’è poi un nodo di sicurezza che pesa sempre di più. Un magazzino di conoscenza da cui l’agente recupera è anche una superficie di attacco: chi riesce a inserirvi un documento avvelenato può influenzare le risposte dell’agente, perché l’agente recupererà quel documento credendolo legittimo. È un attacco subdolo, perché non colpisce l’agente direttamente ma il pozzo da cui attinge.
Infine, c’è il problema del privato. Una memoria che conserva dati di clienti e progetti è soggetta agli obblighi del GDPR e del Regolamento UE 2024/1689 (AI Act). Quanto tempo si conservano quei dati, chi vi accede, come si cancellano su richiesta dell’interessato: domande che vanno risolte prima di mettere un agente con memoria in produzione, non dopo aver ricevuto un reclamo o un controllo.
Come funziona, in pratica, il recupero
Vale la pena guardare sotto il cofano, senza tecnicismi inutili.
Quando si prepara un sistema RAG, i documenti aziendali vengono divisi in frammenti e trasformati in rappresentazioni numeriche che ne catturano il significato, non solo le parole. Questi frammenti finiscono in un archivio specializzato, capace di trovare in fretta i contenuti più vicini, per significato, a una domanda.
Al momento della richiesta il sistema trasforma anche la domanda nella stessa forma numerica e cerca nell’archivio i frammenti più pertinenti. Li recupera, li passa al modello insieme alla domanda, e il modello formula la risposta basandosi su quel materiale.
La ricerca per significato è ciò che distingue RAG da una semplice ricerca per parole chiave. Una ricerca testuale trova le pagine che contengono le parole esatte della domanda. La ricerca semantica trova quelle che ne contengono il senso, anche se espresso con termini diversi.
È un meccanismo potente e fallibile insieme. Potente perché coglie la pertinenza al di là delle parole. Fallibile perché la qualità dipende da come i documenti sono stati divisi, da quanto bene le rappresentazioni numeriche colgono il significato e da quanti frammenti si decide di recuperare.
Ognuna di queste scelte ha conseguenze. Frammenti troppo grandi diluiscono la pertinenza, troppo piccoli la frammentano. Recuperare pochi frammenti rischia di lasciare fuori l’informazione decisiva, recuperarne troppi annega il modello in materiale superfluo. Non esiste una configurazione universale: ogni base di conoscenza richiede una taratura, fatta di prove e misurazioni.
RAG o contesto lungo: un dibattito aperto
Con l’arrivo di modelli capaci di leggere quantità di testo molto più grandi in una sola volta, qualcuno ha previsto la fine di RAG: se un modello può ingerire un intero archivio, perché recuperare solo i frammenti pertinenti?
La previsione si è rivelata affrettata.
Caricare ogni volta enormi quantità di testo costa, in termini di calcolo e di tempo di risposta, e diluisce l’attenzione del modello su materiale per lo più irrilevante. Recuperare in modo mirato i pochi frammenti che servono resta, per molti casi, più economico e più preciso. I due approcci tendono a combinarsi, più che a escludersi: contesto ampio dove serve visione d’insieme, recupero mirato dove serve precisione su una base di conoscenza vasta.
Per le imprese la lezione è di non inseguire la moda del momento. La capacità di leggere più testo è utile, ma non rende superfluo organizzare bene la propria conoscenza. Un archivio curato e un recupero preciso restano un vantaggio, qualunque sia la dimensione del contesto che il modello del momento riesce a ingerire.
Una competenza di disegno, non solo di codice
Costruire un sistema con RAG e memoria che funzioni in produzione richiede scelte che stanno tra l’ingegneria, la governance del dato e la sicurezza. Come si organizza il magazzino di conoscenza, come si misura la qualità del recupero, quanto si conserva in memoria e per quanto, come si proteggono le fonti da manomissioni.
Sono decisioni che incidono sull’affidabilità e sulla conformità del sistema, e che difficilmente si improvvisano. Un sistema RAG montato in fretta, senza pensare a queste domande, funziona nelle demo e tradisce in produzione, quando i documenti crescono, la memoria si sporca e i dati personali si accumulano.
AIPIA le affronta nei percorsi formativi sull’intelligenza artificiale, mentre la guida operativa all’AI Act aiuta a inquadrare gli obblighi che riguardano la conservazione e il trattamento dei dati che un agente memorizza. Per chi vuole costruire una cultura di base su questi temi, la selezione di letture sull’intelligenza artificiale offre un punto di partenza.
L’intelligenza di un agente non sta solo nel modello che lo anima. Sta in cosa ricorda, in cosa sa recuperare e in quanto bene distingue una fonte affidabile da una avvelenata. Un modello senza memoria parla bene e dimentica tutto. Un modello con una memoria mal costruita ricorda, ma ricorda male. E ricordare male, in un processo aziendale, costa più del dimenticare.
