Audit Trail dell’AI: come documentare l’uso in modo tracciabile

Di cosa parla questa guida

Un modello rifiuta una richiesta di prestito. Sei mesi dopo il cliente contesta la decisione e un’autorità chiede di ricostruirla. Senza un registro ordinato la risposta è un silenzio imbarazzante: non si sa quali dati siano stati usati, quale versione del modello abbia deciso, se un operatore abbia verificato.

Un audit trail dell’AI è il registro cronologico, verificabile e protetto da manomissioni di ogni evento rilevante lungo la vita di un sistema. La differenza con un log tradizionale è tutta qui: un log dice che il sistema ha funzionato, l’audit trail dice perché ha deciso in quel modo, con quali dati e quale modello, e chi ha vigilato.

La guida spiega cosa registrare fase per fase, come rendere il registro affidabile e con quali strumenti, dallo studio professionale all’ente pubblico. AI Act, GDPR e regole di settore convergono su un punto: senza tracciabilità non si dimostra la conformità. Il regolamento chiede anche un livello adeguato di competenza a chi questi sistemi li usa, tema che la guida collega alla formazione del personale.

Tre idee dalla guida

La catena di hash che trasforma un file in una prova

Un registro che si può modificare o cancellare senza lasciare traccia non vale nulla in una verifica. Il meccanismo che lo rende difendibile è semplice: a ogni voce si applica una funzione che produce un’impronta numerica, e in quell’impronta si include anche quella della voce precedente. Si forma una catena. Se qualcuno altera un record vecchio, la sua impronta cambia e con essa tutte le successive: la manomissione diventa visibile senza confrontare i contenuti, basta verificare la catena. Attorno a questo la guida mette le altre difese: archiviazione su supporti che non si sovrascrivono, cifratura in archivio e in rete, nessun accesso privilegiato non tracciato, nemmeno quello degli amministratori.

Il campo che l’AI Act chiede di poter mostrare

Nella sequenza di log ricostruita per una richiesta di credito, tutto porta a un’ultima voce: l’operatore ha rivisto decisione e spiegazione, ha confermato il rifiuto e ha lasciato scritto perché. Senza quella riga il sistema ha deciso da solo, e per un caso ad alto rischio non è ammissibile. La motivazione dell’intervento umano non è un campo facoltativo, è la prova della supervisione che il regolamento richiede. Vale anche verso l’interno: gli annullamenti umani ricorrenti, letti insieme, mostrano dove il modello sbaglia in modo sistematico.

Il registro minimo per chi usa l’AI senza costruirla

Uno studio o una piccola impresa non addestra modelli, quindi non deve documentare l’addestramento: deve sapere cosa usa, su cosa e chi ha verificato. Per questi casi la guida propone un registro essenziale, anche un semplice foglio strutturato, con pochi campi per ogni uso rilevante: data e ora, sistema e versione, finalità, richiedente, tipo di dati in ingresso e se erano anonimizzati, sintesi dell’output, esito della decisione umana tra accettato, modificato e scartato, motivazione in una riga, chi ha controllato prima dell’uso. Non è l’audit trail di una banca e non deve esserlo: è il minimo che permette, a mesi di distanza, di ricostruire una decisione e di dimostrare che un controllo umano c’è stato.