Agenti AI nel servizio clienti: dalla risposta automatica al passaggio a una persona

Gli agenti AI nel servizio clienti funzionano quando hanno un perimetro preciso: rispondere con informazioni aggiornate e verificate, consultare lo stato di una pratica con permessi limitati e passare la conversazione a una persona, con tutto il contesto, appena la richiesta esce da quel perimetro. Rimborsi, eccezioni e reclami restano decisioni umane.

FAQ automatiche, assistente documentale, agente: tre cose diverse

Sotto la parola «chatbot» finiscono oggetti molto diversi, e confonderli porta a progetti sbagliati.

Il primo livello è la risposta alle domande frequenti: un elenco chiuso di domande con risposte scritte da persone, che il sistema riconosce e restituisce. Prevedibile, limitato, poco rischioso. Il secondo è l’assistente documentale, che genera risposte a partire da una base di conoscenza aziendale: condizioni di vendita, manuali, procedure di reso. Copre molte più domande, ma introduce un rischio nuovo, perché il testo è composto dal modello e può contenere affermazioni non presenti nei documenti. Il terzo livello è l’agente vero e proprio, che non si limita a rispondere ma agisce sui sistemi: legge lo stato di un ordine nel gestionale, apre un ticket, prenota un appuntamento, modifica un indirizzo di consegna.

Ogni livello richiede controlli diversi. Il salto dal secondo al terzo è il più delicato, perché un errore non resta più una frase sbagliata: diventa un’operazione eseguita.

Una buona regola di partenza: costruire il terzo livello solo dopo che il secondo funziona, misurato, per qualche mese.

Tre casi concreti, dal più semplice al più delicato

Caso 1, richiesta di informazioni. Un cliente chiede entro quanti giorni può restituire un prodotto acquistato online. L’assistente cerca nella base di conoscenza la politica dei resi in vigore, risponde citando la regola e rimanda alla pagina ufficiale. Se la politica distingue fra categorie di prodotto e il cliente non ha detto cosa ha comprato, chiede. Se non trova la risposta nei documenti, lo dice e propone il contatto con un operatore. Non inventa un termine plausibile.

Caso 2, stato di una pratica. Un cliente vuole sapere dove si trova la sua spedizione. Qui serve l’accesso a un sistema, e quindi un’identificazione: numero d’ordine più un secondo elemento, come il codice postale di consegna. L’agente ha un solo strumento, in sola lettura, che restituisce lo stato di quell’ordine e di nessun altro. Comunica lo stato con le parole del sistema, senza interpretarlo: «in consegna» non diventa «arriverà domani» se il sistema non lo dice. Se lo stato indica un’anomalia, come una giacenza o un reso al mittente, passa all’operatore.

Caso 3, richiesta che spetta a una persona. Un cliente scrive che il prodotto è arrivato danneggiato e chiede il rimborso immediato, aggiungendo che è la seconda volta. L’agente non decide. Raccoglie le informazioni utili (numero d’ordine, descrizione del danno, eventuali foto secondo la procedura aziendale), riconosce il disagio senza promettere un esito, e apre il passaggio all’operatore spiegando al cliente cosa succederà e in che tempi, se i tempi sono definiti dalla procedura. Rimborsi, sostituzioni, eccezioni e reclami ripetuti sono decisioni con conseguenze economiche e relazionali. Restano umane.

I tre casi hanno una cosa in comune: l’agente sa cosa non deve fare. Le istruzioni migliori per il servizio clienti sono spesso elenchi di divieti espliciti, più che descrizioni di ciò che è permesso.

Conoscenza aggiornata, permessi e nessuna promessa inventata

Nel febbraio 2024 il Civil Resolution Tribunal della British Columbia ha deciso il caso Moffatt v. Air Canada. Il chatbot della compagnia aveva spiegato a un cliente che poteva chiedere la tariffa agevolata per lutto anche dopo il viaggio, in contrasto con la politica pubblicata altrove sul sito. La compagnia sosteneva che il chatbot fosse in sostanza responsabile delle proprie azioni; il tribunale ha respinto l’argomento, osservando che non fa differenza se un’informazione arriva da una pagina statica o da un chatbot, e ha condannato la compagnia a risarcire la differenza di prezzo. Il caso riguarda il diritto canadese, ma il principio è difficile da contestare anche altrove: ciò che l’assistente dice ai clienti lo dice l’azienda.

Da qui tre conseguenze pratiche. La base di conoscenza deve avere un responsabile, una data di aggiornamento per ogni documento e una procedura per ritirare le versioni superate: un listino scaduto lasciato nell’archivio è una promessa pronta a essere ripetuta. Le istruzioni devono vietare impegni non scritti nei documenti, come sconti, tempi garantiti, esiti di reclami. E i permessi devono seguire il principio del minimo necessario, perché un agente che può leggere tutti gli ordini può anche rivelare quelli sbagliati alla persona sbagliata.

C’è poi la trasparenza. L’articolo 50 del Regolamento UE 2024/1689, l’AI Act, impone ai fornitori di progettare i sistemi destinati a interagire con le persone in modo che queste sappiano di parlare con un sistema di AI, salvo che sia evidente dal contesto. Il dettaglio degli obblighi è spiegato nell’approfondimento AIPIA sulla trasparenza dell’AI Act e l’articolo 50. Infine i dati personali: nomi, indirizzi, storico degli acquisti e contenuto delle conversazioni sono dati trattati per conto dell’azienda, con tutto ciò che il GDPR comporta su informativa, conservazione e fornitori coinvolti.

Il passaggio a una persona, fatto bene

Il momento in cui la conversazione passa all’operatore decide l’esperienza del cliente più di tutte le risposte automatiche messe insieme.

Un passaggio fatto male obbliga il cliente a ripetere tutto. Uno fatto bene consegna all’operatore una scheda breve: chi è il cliente (se identificato), cosa ha chiesto, cosa gli è già stato detto, quali dati sono stati verificati, perché l’agente si è fermato. L’operatore legge in venti secondi e riprende dal punto giusto. Le regole di passaggio vanno scritte prima del pilota, non scoperte durante: richiesta esplicita del cliente di parlare con una persona, tema fuori perimetro, segnali di forte insoddisfazione, dati incoerenti, qualsiasi richiesta di denaro o di eccezione. Una regola che conviene adottare senza discussione: se il cliente chiede una persona, la ottiene, senza tentativi di trattenerlo nella conversazione automatica.

Un esempio di scheda, con dati di fantasia, per il terzo caso descritto sopra. Cliente: identificato con numero d’ordine e codice postale. Richiesta: rimborso per prodotto arrivato danneggiato, seconda segnalazione dichiarata dal cliente. Già comunicato: la richiesta passa a un operatore, nessun esito promesso. Dati verificati: ordine consegnato secondo il sistema; foto allegate dal cliente. Non verificato: la segnalazione precedente, che il sistema in sola lettura non mostra. Motivo del passaggio: richiesta economica e reclamo ripetuto. Tono del cliente: irritato, cortese. Sette righe che risparmiano all’operatore cinque minuti e al cliente la sensazione di non essere stato ascoltato.

Anche le istruzioni dell’agente per questo passaggio possono essere scritte in modo esplicito: «Quando la richiesta riguarda rimborsi, sostituzioni, eccezioni alle condizioni o reclami, non proporre soluzioni e non indicare tempi che non siano scritti nella procedura. Raccogli numero d’ordine, descrizione del problema e allegati previsti, conferma al cliente che la richiesta passa a un operatore, compila la scheda di passaggio con i campi richiesti e segnala ciò che non hai potuto verificare.»

Per rimborsi e modifiche di ordine esiste una via intermedia: l’agente prepara la pratica, l’operatore la approva con un clic dopo averla letta. Nessuna operazione con effetti economici parte senza quell’approvazione.

Cosa misurare nel pilota, e come preparare gli addetti

La ricerca più citata sul tema è uno studio di Erik Brynjolfsson, Danielle Li e Lindsey Raymond pubblicato nel 2025 sul Quarterly Journal of Economics. Analizzando 5.172 addetti all’assistenza clienti di una sola azienda, gli autori hanno osservato che un assistente conversazionale basato su AI generativa, usato a supporto degli operatori, ha aumentato in media del 15% le pratiche risolte all’ora, con differenze forti fra persone: miglioramenti di velocità e qualità per i meno esperti, piccoli guadagni di velocità e piccoli cali di qualità per i più esperti. È un risultato su un contesto specifico, con l’AI a fianco degli operatori e non al loro posto. Non dice nulla su quanto otterrà un’altra azienda. Ogni organizzazione deve misurare il proprio caso.

Le metriche da misurare, con una base di confronto prima dell’avvio:

• Correttezza: su un campione settimanale di conversazioni rilette da una persona, quota di risposte esatte e coerenti con i documenti.
• Passaggi all’operatore: quanti, per quale motivo, con quale qualità della scheda trasmessa.
• Riaperture: richieste chiuse dall’agente che il cliente ripresenta entro pochi giorni.
• Soddisfazione: valutazione del cliente a fine conversazione, letta insieme ai commenti e non solo come media.
• Tempi: attesa e durata complessiva, confrontati con il periodo precedente.
• Incidenti: risposte con promesse non autorizzate o dati mostrati alla persona sbagliata, da registrare tutti.

La lista di controllo del pilota è corta. Un solo canale, un solo tema, per esempio resi e spedizioni. Base di conoscenza ripulita, con responsabile e date. Permessi in sola lettura. Regole di passaggio scritte. Informativa al cliente sull’uso dell’AI. Revisione settimanale di un campione. Criteri di arresto decisi in anticipo, compresa la soglia di errori oltre la quale il pilota si sospende.

E gli addetti. Sono loro a ricevere i casi più difficili, a correggere la base di conoscenza, a segnalare le risposte sbagliate. Vanno coinvolti nella scrittura delle regole e formati a leggere le schede di passaggio, a riconoscere gli errori tipici del modello e a sapere cosa fare quando li trovano. Per le organizzazioni che vogliono impostare questa formazione su casi interni, AIPIA propone percorsi di formazione aziendale sull’intelligenza artificiale per team, studi professionali e Pubbliche Amministrazioni.

Domande frequenti sugli agenti AI nel servizio clienti

Un agente AI può sostituire gli operatori del servizio clienti?

Può gestire richieste ripetitive dentro un perimetro definito. Le richieste con conseguenze economiche, i reclami e i casi fuori standard richiedono una persona, e le ricerche disponibili descrivono soprattutto l’AI a supporto degli operatori.

Bisogna dire al cliente che sta parlando con un’AI?

L’articolo 50 dell’AI Act richiede che le persone siano informate quando interagiscono con un sistema di AI, salvo che sia evidente dal contesto. In pratica conviene dirlo sempre, in modo chiaro, all’inizio della conversazione.

Chi risponde se l’assistente dà un’informazione sbagliata?

Il caso Moffatt v. Air Canada indica che il tribunale ha considerato l’azienda responsabile delle informazioni fornite dal suo chatbot. Le regole precise dipendono dall’ordinamento, ma il rischio va gestito come per qualsiasi comunicazione aziendale.

Serve un agente o basta un assistente documentale?

Se le richieste più frequenti si risolvono con informazioni già scritte, basta l’assistente documentale. L’agente serve quando la risposta richiede di leggere o modificare un sistema, come lo stato di un ordine, e porta con sé permessi, identificazione e registri da progettare con cura.

Da dove si comincia?

Da un tema solo, un canale solo e una base di conoscenza ripulita, con metriche di partenza raccolte prima dell’avvio e una revisione settimanale delle conversazioni.

Fonti

• Brynjolfsson, Li, Raymond, Generative AI at Work, Quarterly Journal of Economics, 2025
• McCarthy Tétrault, Moffatt v. Air Canada: A Misrepresentation by an AI Chatbot
• Commissione europea, AI Act Service Desk, Article 50
• OWASP Gen AI Security Project, LLM01: Prompt Injection