Le Pubbliche Amministrazioni (PA) stanno accelerando sull’adozione dell’Intelligenza Artificiale (AI) per migliorare servizi e processi interni. Allo stesso tempo emergono Linee Guida nazionali ed europee per garantire trasparenza e accountability algoritmica nelle decisioni automatizzate. In questo articolo esaminiamo queste nuove direttive e il contesto in cui nascono, descriviamo casi concreti di utilizzo dell’AI in enti pubblici (dall’automazione degli sportelli ai sistemi predittivi) e spieghiamo perché trasparenza e spiegabilità degli algoritmi siano requisiti chiave per la fiducia, la legalità e l’efficacia delle soluzioni di AI nel settore pubblico. Infine, vedremo il ruolo di AIPIA nell’aggiornare i professionisti pubblici su questi temi con newsletter, guide ed eventi dedicati.
Linee guida per algoritmi trasparenti nella Pubblica Amministrazione
Negli ultimi mesi sono state introdotte (o sono in fase di adozione) Linee Guida specifiche sull’Intelligenza Artificiale per la PA, sia a livello italiano che europeo. In Italia, l’AgID ha redatto una bozza di Linee Guida per l’adozione, l’acquisto e lo sviluppo di sistemi di AI nella PA, sottoposta a consultazione pubblica nel 2025. Queste linee guida mirano a fornire alle amministrazioni un quadro di riferimento per introdurre l’AI in modo etico, efficace e rispettoso delle norme. Tra i principi chiave emergono l’etica, la trasparenza e l’accountability: l’IA è vista non solo come innovazione tecnologica, ma come fenomeno da governare anche sul piano giuridico, culturale e sociale.
In particolare, gli esperti sottolineano che le Linee Guida dovrebbero prevedere strumenti concreti di trasparenza. Ad esempio, è auspicata l’introduzione di audit periodici indipendenti sui sistemi di AI utilizzati, la pubblicazione di report periodici sulla trasparenza e meccanismi di contestazione e spiegazione delle decisioni algoritmiche. Tali elementi sono ritenuti essenziali per garantire la fiducia dei cittadini, senza la quale qualsiasi innovazione tecnologica incontrerebbe inevitabilmente resistenze. Le Linee Guida AgID enfatizzano anche il principio di spiegabilità algoritmica: le amministrazioni dovrebbero assicurare che i sistemi di AI siano quanto più possibili interpretabili e spiegabili, così da garantire correttezza e trasparenza nell’azione amministrativa.
Oltre alla trasparenza, le Linee Guida italiane affrontano temi correlati quali la mitigazione dei bias (richiedendo test e metriche per prevenire discriminazioni algoritmiche) e la gestione dei rischi (auspicando piani di emergenza in caso di malfunzionamenti gravi). Viene individuata una governance in cui il Responsabile per la Transizione Digitale (RTD) di ciascun ente ha un ruolo centrale nel coordinare l’introduzione dell’AI, sebbene ciò ponga la sfida di rafforzarne competenze e supporti. La consultazione pubblica su queste Linee Guida permetterà di raffinare tali indicazioni, con l’obiettivo di bilanciare innovazione e burocrazia: l’intento è di evitare oneri eccessivi ma garantire al contempo l’uso consapevole e legale degli algoritmi nella PA.
A livello europeo, le Linee Guida Etiche per una IA affidabile (pubblicate dal High-Level Expert Group on AI nel 2019) hanno già sottolineato tra i requisiti fondamentali la trasparenza e l’accountability. Esse hanno fatto da apripista a normative più vincolanti in arrivo. Inoltre, alcuni Paesi europei si sono mossi autonomamente: ad esempio, la Francia ha introdotto per legge l’obbligo di rendere pubblici i criteri degli algoritmi usati nella PA (sebbene l’applicazione finora sia carente), e città come Amsterdam e Helsinki hanno istituito registri pubblici degli algoritmi utilizzati nei servizi comunali, per informare i cittadini. Queste iniziative testimoniano una tendenza condivisa: gli algoritmi pubblici non possono più operare come “scatole nere”, ma vanno sottoposti al controllo democratico e resi comprensibili agli utenti e ai cittadini.
L’adozione crescente dell’AI nei servizi pubblici: motivazioni e applicazioni
Per comprendere il perché di tali Linee Guida, occorre considerare la crescente diffusione dell’AI nella Pubblica Amministrazione. Le PA stanno investendo in AI per digitalizzare i servizi, aumentare l’efficienza operativa e migliorare l’esperienza dei cittadini. Il Governo italiano, ad esempio, tramite il Piano Nazionale di Ripresa e Resilienza (PNRR) e la Strategia Nazionale per l’AI 2024–2026, ha stanziato ingenti risorse per progetti di “AI for Public Good”. In particolare, 450 milioni di euro sono dedicati a iniziative di AI nella PA, spaziando dall’automazione dei processi interni (pagamenti, gestione documentale, procurement) a chatbot multilingua per l’accesso ai servizi, fino all’impiego di reti neurali per l’analisi predittiva delle frodi. Si prevede un boom di gare d’appalto in questo ambito, gestite centralmente da Consip e dalle centrali di committenza regionali.
Perché le amministrazioni adottano l’AI? Le motivazioni sono molteplici. Da un lato vi è la spinta a migliorare l’efficienza e ridurre i costi: automatizzare procedure ripetitive libera risorse umane per attività a maggior valore aggiunto e velocizza i tempi di risposta al pubblico. Dall’altro, l’AI permette di offrire nuovi servizi prima impensabili, come assistenti virtuali disponibili 24/7 o analisi predittive che aiutano a prendere decisioni informate (ad esempio prevedere il fabbisogno di personale sanitario in determinate situazioni). Inoltre, l’AI può favorire una personalizzazione dei servizi pubblici – ad esempio adattando le informazioni fornite al profilo dell’utente – e una maggiore accessibilità (si pensi ai chatbot che comunicano in linguaggio naturale o alle traduzioni automatiche in più lingue per i servizi destinati ai cittadini stranieri).
Da non sottovalutare è anche la spinta normativa e di indirizzo politico: l’Unione Europea, con programmi e regolamenti, incentiva l’adozione dell’AI purché sia affidabile e centrata sull’uomo. In parallelo, il cittadino digitale di oggi si aspetta interazioni con la PA analoghe a quelle offerte dai servizi privati avanzati. La pandemia COVID-19 ha ulteriormente evidenziato la necessità di servizi digitali evoluti (dai portali per bonus e sussidi, ai sistemi di tracciamento dei contagi) e ha fatto da volano per sperimentare soluzioni di AI in vari settori pubblici, dalla sanità alla gestione delle emergenze. Tutto ciò crea un contesto in cui l’adozione dell’AI nella PA appare sia opportunità sia una necessità per colmare il gap tra l’offerta pubblica e le crescenti esigenze della società.
Casi d’uso concreti dell’AI nella PA
Di seguito alcuni casi concreti (italiani) di impiego dell’AI nella PA, che illustrano diverse tipologie di applicazioni:
- Automazione di back-office (Comune di Milano) – Il Comune di Milano ha adottato una piattaforma di automazione (tecnologia RPA) per digitalizzare vari procedimenti amministrativi. Ad esempio è stata automatizzata la gestione dei pass per residenti nelle aree a traffico limitato, riducendo drasticamente i tempi di rilascio e migliorando l’esperienza dei cittadini. Grazie a una soluzione low-code, il Comune ha potuto implementare rapidamente il workflow automatizzato, liberando il personale dagli incarichi ripetitivi di data entry e controllo documentale, così da concentrarsi su compiti a maggior valore aggiunto.
- Assistenti virtuali “sportello” (Comuni di Bologna e Roma) – Diverse amministrazioni hanno introdotto chatbot intelligenti per gestire le comunicazioni con il pubblico. Il Comune di Bologna, ad esempio, ha adottato un assistente virtuale basato su AI conversazionale che riesce a gestire in autonomia circa il 95% delle richieste dei cittadini via chat, email e altri canali, elaborando centinaia di migliaia di messaggi l’anno. Questo ha portato a un risparmio di oltre 8.000 ore di lavoro umano in un anno, velocizzando al contempo le risposte agli utenti. A Roma, come visto, la chatbot “Julia” offre un servizio multilingue su ampia gamma di temi (cultura, mobilità, sicurezza, turismo), attingendo a dati ufficiali certificati e fornendo informazioni sempre aggiornate.
- Analisi predittiva per la pianificazione (Ministero della Salute) – Il Ministero della Salute ha avviato una sperimentazione di modelli di AI predittiva per migliorare la gestione del personale medico e delle risorse sanitarie. Grazie a questi algoritmi, è possibile prevedere i picchi di domanda di servizi ospedalieri (ad esempio emergenze stagionali) e ottimizzare in anticipo l’allocazione di medici, infermieri e attrezzature. Un tale sistema consente non solo di aumentare l’efficienza operativa degli ospedali, ma anche di essere più pronti nella gestione di emergenze sanitarie, con potenziali benefici per la salute pubblica.
- Controlli finanziari automatizzati (Corte dei conti) – La Corte dei conti, organo di controllo sulle finanze pubbliche, impiega già sistemi di automazione e AI per potenziare i propri audit. Da un lato, ha introdotto RPA per il controllo automatico dei documenti contabili, riducendo gli errori umani e accelerando i tempi di revisione. Dall’altro, utilizza algoritmi di data analytics e machine learning per analizzare grandi moli di dati finanziari allo scopo di individuare anomalie o possibili frodi in bilanci e spese pubbliche. Ciò migliora la trasparenza e la responsabilità nella gestione finanziaria dello Stato, permettendo di concentrare le ispezioni dove emergono i segnali di irregolarità.
- Tracciabilità delle decisioni e open data (Regione Emilia-Romagna) – La Regione Emilia-Romagna ha sperimentato l’uso di soluzioni di AI per rendere più tracciabile e accessibile il percorso decisionale nell’amministrazione. In pratica, sistemi informativi potenziati dall’AI aiutano a collegare atti, delibere e dati pertinenti, creando una sorta di “registro digitale” delle decisioni amministrative facilmente consultabile. Questo ha aumentato la trasparenza e la partecipazione civica: i cittadini possono accedere con più facilità alle informazioni su come e perché sono state prese certe decisioni, rafforzando la fiducia nelle istituzioni. Inoltre, una tale tracciabilità facilita anche il lavoro interno, perché rende più semplice per funzionari e dirigenti reperire informazioni e verificare iter procedurali.
Trasparenza e accountability algoritmica: perché sono cruciali
L’utilizzo di algoritmi nelle decisioni pubbliche solleva inevitabilmente una domanda: come garantire che tali sistemi operino nel rispetto dei principi democratici e dei diritti dei cittadini? La risposta ruota attorno al concetto di trasparenza algoritmica e alla correlata accountability (responsabilità) delle amministrazioni che li adottano. Ecco i motivi principali per cui la trasparenza è considerata un requisito fondamentale:
- Fiducia dei cittadini – La fiducia del pubblico nelle soluzioni di AI è fragile, e guadagnarla è possibile solo se l’uso di tali sistemi è chiaro e spiegabile. I cittadini devono sapere quando hanno a che fare con una decisione automatizzata e su quali basi questa è stata presa. La trasparenza (ad esempio comunicare i criteri di un algoritmo, o che si sta interagendo con un chatbot invece che con un operatore) è essenziale per evitare percezioni di arbitrarietà. Come sottolineato da esperti, senza fiducia qualsiasi innovazione tecnologica è destinata a incontrare resistenze. Al contrario, se l’AI è introdotta in modo aperto – spiegando finalità, dati utilizzati e meccanismi – i cittadini saranno più propensi ad accettarla e utilizzarla.
- Legalità e diritti – In uno Stato di diritto, ogni provvedimento amministrativo dev’essere motivato e, se del caso, sindacabile. L’uso di algoritmi non fa eccezione: un algoritmo che decide su un diritto del cittadino (es. assegnazione di un beneficio, graduatoria, sanzione) deve essere “conoscibile”. La giurisprudenza italiana lo ha affermato chiaramente: il Consiglio di Stato ha stabilito che l’uso di procedure automatizzate è legittimo solo se l’algoritmo è trasparente, comprensibile e accessibile, vincolando la validità dell’atto amministrativo alla trasparenza del procedimento algoritmico. In sostanza, un cittadino ha il diritto di capire come è stata presa una decisione che lo riguarda, e le PA non possono nascondersi dietro il “segreto industriale” dei fornitori software per negare queste informazioni: in caso di contenzioso, eventuali pretese di riservatezza commerciale sull’algoritmo cedono di fronte al principio di trasparenza dell’azione amministrativa. Questo è coerente anche con la normativa privacy (GDPR), che all’art. 22 garantisce il diritto a ottenere spiegazioni sulle decisioni automatizzate significative. La trasparenza, dunque, non è solo buona pratica ma un vero e proprio obbligo legale per tutelare i diritti dei cittadini e assicurare che l’operato della PA sia sempre soggetto a verifica e controllo.
- Efficacia e qualità delle soluzioni AI – Un altro motivo per cui la trasparenza è fondamentale riguarda l’efficacia stessa dei sistemi di AI impiegati. Rendere trasparenti algoritmi e dati significa poterli valutare, testare e correggere. Se un modello di AI è opaco, diventa difficile accorgersi di eventuali errori, bias o malfunzionamenti fino a quando non causano un danno. Al contrario, un sistema trasparente può essere sottoposto ad audit e migliorato continuamente, aumentando la qualità del servizio offerto. Ad esempio, se un algoritmo che smista le domande di contributo presenta anomalie (magari penalizza sistematicamente una certa categoria di utenti), la trasparenza consente di individuare il problema e intervenire (regolando i parametri o introducendo un intervento umano) prima che la situazione degeneri. Inoltre, la trasparenza favorisce l’accountability interna: i dirigenti e funzionari sanno di dover rispondere dell’operato dei sistemi automatici, dunque avranno cura di selezionare e configurare strumenti affidabili, e di monitorarne i risultati. In sintesi, un’AI trasparente è un’AI più controllabile e quindi, in ultima analisi, più efficace e sicura nel lungo periodo.
Naturalmente, perseguire la trasparenza non significa rivelare pubblicamente codice sorgente o algoritmi proprietari nei minimi dettagli (questo potrebbe scontrarsi con diritti di proprietà intellettuale e rischi di sicurezza). Si tratta piuttosto di adottare misure come la documentazione chiara di ogni sistema di AI utilizzato (scopo, logica di funzionamento, dati impiegati, livelli di accuratezza, ecc.), la comunicazione agli utenti quando interagiscono con un algoritmo o una decisione automatizzata, e la predisposizione di canali di ricorso o intervento umano se l’utente ritiene sbagliato l’esito automatizzato. Inoltre, significa scegliere, dove possibile, soluzioni algoritmiche spiegabili e non discriminatorie ab initio, e pretendere dai fornitori adeguati livelli di trasparenza e collaborazione (ad esempio, accesso ai log di decisione, modelli di AI addestrati su dataset controllabili, etc.). Solo così l’innovazione portata dall’intelligenza artificiale potrà davvero coniugarsi con i valori di legalità, equità e servizio al cittadino che la Pubblica Amministrazione deve sempre perseguire.
Il quadro normativo: AI Act, Digital Services Act, GDPR e norme nazionali
L’attenzione alla trasparenza e all’accountability degli algoritmi nella PA si inserisce in un contesto normativo in rapida evoluzione, sia a livello europeo che nazionale. Ecco una panoramica delle principali normative di riferimento:
- Regolamento europeo sull’AI (AI Act) – È la proposta di regolamento UE (in via di finalizzazione nel 2024-2025) che intende disciplinare l’uso dell’Intelligenza Artificiale nell’Unione. L’AI Act adotta un approccio basato sul rischio, classificando i sistemi di AI in varie categorie (rischio inaccettabile, alto, limitato, minimo) e imponendo obblighi proporzionati. Per quanto riguarda la trasparenza, il regolamento prevede che alcuni sistemi – ad esempio quelli a rischio limitato, come i chatbot o i sistemi di riconoscimento vocale – debbano informare chiaramente l’utente di stare interagendo con un’IA. I sistemi ad alto rischio (una categoria in cui rientrano molti impieghi nella PA, come quelli per l’accesso a servizi essenziali, la valutazione di candidati in concorsi, ecc.) dovranno rispettare requisiti stringenti tra cui trasparenza delle logiche decisionali, documentazione tecnica, tracciamento delle operazioni (logging) e, in alcuni casi, perfino la registrazione in un registro pubblico UE dei sistemi di AI. L’AI Act, una volta in vigore, obbligherà quindi le amministrazioni a maggiore disciplina nell’uso dell’AI, pena sanzioni in caso di non conformità. Già nel 2025 molte PA stanno studiando come adeguarsi, e le Linee Guida AgID stesse sono allineate ai principi del regolamento europeo.
- Digital Services Act (DSA) – Il Regolamento sui Servizi Digitali (entrato in vigore nel 2023) è focalizzato principalmente sulle grandi piattaforme online e sugli intermediari digitali, ma introduce concetti rilevanti di trasparenza algoritmica che impattano l’ecosistema digitale nel suo complesso. Il DSA richiede, ad esempio, che le piattaforme molto grandi (VLOP) forniscano trasparenza sui loro sistemi di raccomandazione di contenuti e pubblicità, e permette audit indipendenti degli algoritmi. Per la PA, ciò significa che quando si affida a piattaforme esterne la veicolazione di messaggi o servizi (si pensi ai social network utilizzati dai Comuni per informare la cittadinanza), può contare su una cornice di maggiore responsabilizzazione di questi attori privati. Inoltre, il DSA stabilisce principi che potrebbero in futuro ispirare obblighi analoghi anche per gli algoritmi utilizzati direttamente dal settore pubblico, in un’ottica di ecosistema digitale coerente. In sintesi, il DSA diffonde una cultura di accountability algoritmica che coinvolge tutti, pubblici e privati.
- GDPR e protezione dei dati – Il Regolamento Generale sulla Protezione dei Dati (UE) 2016/679 già oggi impone elementi di trasparenza quando si usano sistemi automatizzati che trattano dati personali. L’art. 5 del GDPR sancisce il principio di trasparenza nel trattamento dei dati, e l’art. 13 impone di informare gli interessati sull’eventuale esistenza di processi decisionali automatizzati che li riguardano. Soprattutto, l’art. 22 GDPR stabilisce che un individuo ha il diritto di non essere sottoposto a una decisione basata unicamente su un trattamento automatizzato (inclusa la profilazione) che produca effetti giuridici significativi su di lui, salvo specifiche eccezioni. Anche quando tali decisioni automatizzate sono ammesse, l’interessato ha diritto a ottenere informazioni significative sulla logica utilizzata e a chiedere l’intervento umano. Questo quadro normativo, applicabile anche alle PA, fa sì che ad esempio un cittadino possa contestare una decisione presa da un algoritmo (es. esclusione da un beneficio) e richiedere spiegazioni comprensibili sulle ragioni di tale esito. Inoltre, le Autorità Garante Privacy nazionali (come il Garante Privacy italiano) hanno emanato linee guida su AI e trattamenti automatizzati, che ribadiscono la necessità di valutazioni di impatto (DPIA) e misure di audit algoritmico per prevenire rischi per i diritti e le libertà delle persone.
- Iniziative normative nazionali – In Italia, oltre ad applicare le normative UE sopra citate, sono in discussione norme specifiche sull’AI. Ad esempio, nel 2024 è stato presentato un disegno di legge per disciplinare l’intelligenza artificiale a livello nazionale, con l’intento di affrontare aspetti come l’istituzione di un’autorità o osservatorio nazionale sull’AI, la promozione di standard etici e, appunto, la trasparenza degli algoritmi pubblici. Vi è attenzione anche a modificare il Codice dell’Amministrazione Digitale o altre leggi settoriali per prevedere obblighi di pubblicità degli algoritmi usati dalla PA (sulla scorta di quanto fatto dalla Francia) e linee guida tecniche per la loro valutazione. Inoltre, la prassi di governo aperto sta portando alcune amministrazioni a pubblicare spontaneamente su propri siti informazioni sugli algoritmi in uso (ad esempio nel campo dei tributi o dei servizi sociali), in linea con i principi di trasparenza amministrativa del nostro ordinamento (legge n. 241/1990 sulla trasparenza del procedimento, e il Freedom of Information Act italiano – d.lgs. 33/2013 – che consente ai cittadini di accedere a dati e documenti della PA). La strada della normazione è ancora in evoluzione, ma il messaggio è chiaro: l’uso di IA nella PA deve avvenire entro confini chiari, con obblighi di trasparenza e controllo, per non tradire la fiducia del pubblico e non violare diritti fondamentali.
Conclusioni – Il ruolo di AIPIA nell’aggiornare i professionisti pubblici
L’innovazione basata sull’AI nella Pubblica Amministrazione presenta sfide complesse, ma anche enormi possibilità di miglioramento dei servizi ai cittadini. Mentre normative e linee guida tracciano il perimetro entro cui muoversi – enfatizzando trasparenza, accountability ed etica – spetta ai professionisti del settore pubblico tradurre questi principi in pratica, progettando e governando soluzioni AI efficaci e legittime. In questo percorso, il supporto informativo e formativo è decisivo.
AIPIA (Associazione Italiana Professionisti Intelligenza Artificiale) si pone come punto di riferimento per i professionisti, le PMI fornitrici di soluzioni e gli operatori della PA interessati all’innovazione digitale. L’Associazione svolge un ruolo chiave nell’informare e aggiornare costantemente questa community sulle novità tecnologiche, normative e applicative dell’AI nel settore pubblico. AIPIA offre infatti una newsletter settimanale ricca di notizie, analisi e approfondimenti sui temi emergenti (come l’evoluzione dell’AI Act, le best practice di trasparenza algoritmica, bandi di finanziamento per progetti innovativi, ecc.), permettendo ai membri di restare sempre al passo con un panorama in rapido cambiamento. Inoltre, mette a disposizione guide e report riservati ai soci, che forniscono orientamenti pratici – ad esempio come condurre un audit algoritmico, come implementare un progetto pilota di AI in un ente locale, come assicurare la compliance normativa sin dalla fase di gara e sviluppo di un sistema di AI.
Non meno importante è l’aspetto della comunità professionale e dello scambio di esperienze. AIPIA organizza regolarmente eventi, webinar e workshop dedicati all’AI nella PA, creando occasioni di incontro tra esperti, amministratori e aziende. In questi eventi si discutono casi d’uso reali, si approfondiscono linee guida (come quelle analizzate in questo articolo) e si favorisce la condivisione di soluzioni efficaci ai problemi comuni. Attraverso conferenze annuali, tavole rotonde tematiche e corsi di formazione mirati, AIPIA contribuisce a creare una cultura diffusa sull’uso responsabile dell’AI nel settore pubblico e a formare figure professionali sempre più competenti (dagli RTD ai project manager tecnologi, fino ai funzionari coinvolti nell’uso quotidiano di sistemi intelligenti).
In conclusione, l’avvento degli “algoritmi trasparenti” nella PA rappresenta una frontiera imprescindibile per coniugare innovazione e rispetto dei principi democratici. Le nuove linee guida e normative spingono verso un’Intelligenza Artificiale al servizio di cittadini e imprese, che sia affidabile, spiegabile e sottoposta a controllo umano. I casi d’uso già attivi mostrano che l’AI può rendere la macchina pubblica più efficiente e proattiva, a patto di governarla con attenzione. La trasparenza è il filo conduttore che lega fiducia, legalità ed efficacia: senza trasparenza non c’è fiducia, e senza fiducia l’innovazione tecnologica rischia di fallire il suo scopo. Grazie anche ad attori come AIPIA, che diffondono conoscenza e consapevolezza, i professionisti pubblici hanno oggi l’opportunità di guidare questa trasformazione con competenza e visione, assicurando che l’AI diventi veramente una leva di valore pubblico e non un mero esercizio tecnologico.
