Il Parlamento europeo e il Consiglio hanno raggiunto un accordo politico provvisorio che introduce un divieto esplicito delle applicazioni di nudificazione, gli strumenti di intelligenza artificiale che modificano l’immagine di una persona reale per produrre contenuti intimi sintetici senza il suo consenso il 7 maggio 2026. È la prima volta che l’Unione mette al bando una categoria di sistemi di IA non per il rischio tecnico che pongono, ma per il danno che infliggono alla dignità delle persone.
Il provvedimento sposta l’asse del dibattito. Non si discute più solo di come marcare i contenuti sintetici, ma di quali contenuti sintetici non debbano esistere affatto.
Cosa colpisce esattamente il divieto
La formulazione dell’accordo è ampia per natura.
Sarà vietata l’immissione sul mercato e l’uso di sistemi di intelligenza artificiale destinati a generare contenuti sessuali o intimi non consensuali, incluso il materiale di abuso sessuale su minori. Il divieto copre immagini, video e audio, e impone ai fornitori di adottare misure di sicurezza ragionevoli per impedire che i loro strumenti vengano usati a questo scopo.
L’ampiezza della formulazione è una scelta deliberata. Definire il divieto in termini di scopo del sistema, e non di una specifica tecnologia, permette di colpire anche le applicazioni future che oggi non esistono ma che perseguiranno lo stesso fine. Una norma che avesse vietato per nome le app già in circolazione sarebbe stata aggirata in pochi mesi da prodotti rinominati o leggermente modificati. Vietare la finalità, generare contenuti intimi non consensuali, chiude questa via di fuga e rende l’interdizione resistente all’evoluzione degli strumenti.
L’obbligo, quindi, non ricade solo su chi produce materiale illecito. Risale a monte, fino a chi costruisce i sistemi, chiamati a progettare salvaguardie che rendano difficile l’abuso.
Questa risalita lungo la catena è la vera novità rispetto agli strumenti che il diritto aveva già. La diffusione di immagini intime senza consenso era in molti ordinamenti già un reato, ma colpiva chi pubblicava, a danno avvenuto. Intervenire sul fornitore dello strumento sposta l’azione al momento della progettazione, quando il danno è ancora solo potenziale. È un cambio di prospettiva che riconosce una responsabilità a chi mette in circolazione una tecnologia il cui uso prevalente è dannoso, sul modello di quanto avviene per altri prodotti pericolosi che non possono essere venduti liberamente solo perché esistono usi teoricamente leciti.
Le cosiddette app nudifier si erano diffuse in modo capillare, spesso pubblicizzate apertamente, capaci di trasformare in pochi secondi una fotografia innocua in un’immagine intima falsa. Le vittime, in larga parte donne e minori, si trovavano esposte senza alcuno strumento di difesa preventiva. Il divieto interviene proprio su questo: rende illegale lo strumento, non solo l’uso che se ne fa.
La distinzione tra vietare l’uso e vietare lo strumento è il cuore della scelta europea. Vietare solo l’uso scarica sulla vittima l’onere di inseguire ogni singolo contenuto, denunciarlo, chiederne la rimozione, mentre l’applicazione resta liberamente disponibile per produrne altri mille. Vietare lo strumento agisce a monte, colpendo chi lo immette sul mercato e chi lo pubblicizza. È una mossa che riconosce un dato di esperienza: di fronte a una tecnologia che genera danni in serie e a costo quasi nullo, intervenire solo sul singolo abuso significa svuotare il mare con un secchio.
Va aggiunto che la disponibilità di questi strumenti aveva raggiunto le scuole. Episodi documentati in diversi paesi europei hanno visto minori produrre e diffondere immagini intime false di compagni e compagne, con conseguenze che le sanzioni successive non bastano a riparare. Il divieto risponde anche a questa emergenza, agendo prima che il danno si produca.
Il deepfake come ferita alla persona
Il termine deepfake racchiude usi molto diversi tra loro.
C’è il deepfake satirico, quello che imita un personaggio pubblico per scopi comici o critici. C’è il deepfake fraudolento, usato per truffe e manipolazione dell’informazione. E c’è il deepfake che aggredisce l’intimità e l’identità di una persona, trasformando il suo volto e il suo corpo in qualcosa che non ha mai fatto né acconsentito a mostrare. È quest’ultimo che il divieto colpisce con più forza.
La distinzione è etica prima che giuridica.
Un conto è l’autenticità dell’informazione, valore che la marcatura obbligatoria difende. Un altro è l’integrità della persona, che nessuna etichetta basta a proteggere. Un’immagine intima falsa resta una violazione anche se accompagnata dall’avvertenza che è generata dall’IA. Qui la trasparenza non basta: serve l’interdizione.
Il danno, del resto, non si misura solo nel momento della diffusione. Un’immagine sintetica che ritrae una persona in una situazione intima continua a circolare, a essere reperibile, a riemergere a distanza di anni. La vittima si trova a convivere con un’identità falsa che altri possono ritrovare in qualsiasi momento, e la consapevolezza che si tratta di un falso non ne attenua l’effetto su chi la incontra senza contesto. È per questo che il diritto, in casi come questi, sceglie la prevenzione assoluta invece della riparazione successiva: il danno alla reputazione e alla dignità è di quelli che, una volta prodotti, non si cancellano davvero.
Dove finisce la marcatura e comincia il divieto
Il quadro europeo costruisce così due livelli di tutela complementari.
Il primo livello è quello della trasparenza. L’articolo 50 dell’AI Act impone di rendere riconoscibili e rilevabili a macchina i contenuti sintetici e di etichettare i deepfake, perché chi guarda possa sapere che ciò che vede non è autentico. È una difesa dell’informazione e della fiducia collettiva.
Il secondo livello è quello del divieto. Per i contenuti che ledono in modo intollerabile la dignità della persona, l’Unione non si accontenta dell’etichetta: vieta lo strumento. Tra i due livelli c’è una soglia, ed è la soglia oltre la quale un contenuto non è più una questione di trasparenza ma di danno.
Vale la pena notare che i due livelli non si sostituiscono, ma si rafforzano a vicenda. La marcatura obbligatoria continua a valere per l’enorme massa di contenuti sintetici legittimi, dalla pubblicità all’intrattenimento, che hanno solo bisogno di essere riconoscibili. Il divieto agisce sulla frangia di contenuti che non dovrebbero esistere affatto. Un sistema che si affidasse solo alla marcatura lascerebbe circolare materiale lesivo purché etichettato; uno che si affidasse solo ai divieti dovrebbe stabilire caso per caso cosa vietare, un compito impossibile su scala. La combinazione dei due strumenti copre l’intero spettro, dalla trasparenza diffusa all’interdizione mirata.
L’accordo di maggio prevede tempi di applicazione che lasciano spazio all’adeguamento tecnico, anche per le misure che rendono rilevabili e tracciabili i contenuti sintetici. La direzione, però, è fissata.
Vale la pena chiarire un punto, perché il divieto delle app di nudificazione è maturato all’interno di un pacchetto più ampio di interventi sull’AI Act, dedicato in larga parte a semplificazioni e a una nuova calibratura delle scadenze. Tra le tante misure di quel pacchetto, il bando degli strumenti che generano contenuti intimi non consensuali è quella che tocca più da vicino la difesa della persona, ed è su questa che conviene tenere il fuoco. Il resto riguarda l’architettura regolatoria; questo riguarda la dignità di chi rischia di vedere la propria immagine trasformata senza consenso. I due piani convivono nello stesso accordo, ma rispondono a logiche diverse.
Le misure di sicurezza ragionevoli e i loro limiti
Il punto operativo più delicato è l’obbligo di salvaguardie a carico dei fornitori.
Chiedere misure di sicurezza ragionevoli significa imporre ai costruttori di sistemi generativi di prevedere filtri, controlli e barriere che impediscano la generazione di contenuti intimi non consensuali. È un obbligo di mezzi, non di risultato assoluto: nessun filtro è perfetto, e chi vuole aggirarlo trova spesso il modo. Ma sposta la responsabilità progettuale verso chi ha le competenze tecniche per agire, invece di lasciarla solo sulle spalle delle vittime, costrette a inseguire la rimozione dei contenuti una volta che sono già circolati.
Il rischio è la migrazione verso strumenti sviluppati fuori dall’Unione, dove il divieto non arriva. È il limite di ogni regolazione territoriale di una tecnologia che non conosce confini. Resta il fatto che rendere illegale la commercializzazione di questi strumenti nel mercato europeo elimina almeno la loro diffusione aperta e pubblicitaria, che era parte del problema.
La pubblicità, infatti, contava più di quanto si pensi. Molte di queste applicazioni prosperavano grazie a campagne sui social network e a posizionamenti negli store, che le rendevano accessibili con un tocco a chiunque, anche a un minore. Spingere questi strumenti nella clandestinità non li elimina, ma ne riduce la portata: ciò che richiede competenze tecniche per essere raggiunto colpisce meno persone di ciò che viene reclamizzato apertamente. La regolazione territoriale non vince la guerra, ma toglie all’avversario il canale di distribuzione più efficace, e in una questione di scala questo già cambia il bilancio dei danni.
La protezione della persona come bussola
Il filo che lega marcatura e divieto è un principio che AIPIA pone al centro del proprio lavoro sull’etica dell’IA.
La Rome Call for AI Ethics, di cui l’associazione è official endorser, fissa tra i suoi principi la tutela della dignità e dei diritti della persona come limite invalicabile dello sviluppo tecnologico. Il divieto delle app di nudificazione è l’applicazione concreta di quel principio: una tecnologia che esiste solo per violare l’intimità altrui non ha diritto di cittadinanza, per quanto sofisticata sia. Il tema è approfondito nella sezione dedicata alla Rome Call for AI Ethics.
Per chi deve orientarsi tra obblighi di trasparenza e divieti, il quadro complessivo è ricostruito nella guida operativa all’AI Act curata dall’associazione.
Una linea che l’Europa traccia per prima
Con il divieto delle app di nudificazione l’Unione europea afferma un principio che va oltre il caso specifico.
Esistono usi dell’intelligenza artificiale che nessuna trasparenza redime, perché il loro scopo è il danno. Riconoscerlo significa accettare che la regolazione dell’IA non è solo una questione di etichette e di documentazione, ma anche di scelte su ciò che è ammissibile costruire. L’Europa traccia questa linea per prima, sapendo che gli strumenti vietati continueranno a esistere altrove. Ma una società che rinuncia a dire cosa non vuole produrre rinuncia anche a difendere chi quei prodotti colpiscono per primi.
