Sicurezza e AI: rischi e difese quando usi l’intelligenza artificiale

Di cosa parla questa guida

La stessa tecnologia che riconosce una transazione fraudolenta in millisecondi può far uscire un elenco di clienti con un copia e incolla. La guida parte da qui: l’AI non è né una minaccia né uno strumento di difesa, è entrambe le cose, a seconda di come la usi e di chi la usa.

Il testo tiene separati i rischi d’uso, che nascono dai comportamenti delle persone e non richiedono un attaccante, dai rischi tecnici, che nascono dai sistemi e da chi vuole abusarne. Le contromisure sono diverse: regole, formazione e strumenti comodi da un lato; configurazioni, controlli e valutazione dei fornitori dall’altro.

Il quadro normativo lega i due fronti: GDPR, AI Act e NIS2 convergono su un punto, la sicurezza dell’AI è una responsabilità della direzione, fatta di misure tecniche, processi e competenze documentate. Nessuna delle tre si soddisfa comprando un solo prodotto.

Tre idee dalla guida

La domanda che classifica ogni dato

Prima di incollare un contenuto in uno strumento non approvato, la guida propone una domanda sola: se finisse pubblicato online o in mano a un concorrente, sarebbe un problema? Se la risposta è sì, quel contenuto resta sugli strumenti approvati, o viene ripulito dai dati identificativi. La regola si appoggia a una classificazione in poche classi (pubblico, interno, riservato, critico), ognuna con la sua regola d’uso. Nel dubbio vale la classe più alta: meglio trattare un dato come riservato quando non serviva che fare il contrario una volta sola con il dato sbagliato.

Verificare il vero, non riconoscere il falso

Un phishing scritto con l’AI è grammaticalmente perfetto e su misura; una voce clonata suona come quella vera. I vecchi segnali non bastano più, e la difesa si sposta dalla domanda “questa mail sembra sospetta?” alla domanda “ho confermato la richiesta per un canale indipendente?”. Nessun pagamento e nessuna credenziale sulla base di un solo canale, doppia autorizzazione sui bonifici senza eccezioni e, contro le voci clonate, una parola d’ordine concordata in anticipo che un impostore non conosce. Urgenza e segretezza richiesta sono segnali d’allarme, non motivi per saltare i controlli.

Il canale di segnalazione senza colpa

Gli incidenti che fanno più male non sono quelli che accadono, ma quelli che restano nascosti. La policy proposta dalla guida scrive una regola netta: chi segnala tempestivamente un proprio errore in buona fede non subisce sanzioni per averlo commesso. Costa nulla e allinea l’interesse del singolo con quello dell’organizzazione, che ha bisogno di sapere in fretta. Il tempo decide la gravità: lo stesso errore gestito in poche ore resta contenuto, scoperto mesi dopo è molto peggio. E il silenzio assoluto non è sicurezza: quasi sempre è assenza di visibilità.