AI Security Specialist: ruolo, competenze e percorso secondo la norma UNI 11621-8

La UNI 11621-8 è la norma tecnica italiana pubblicata da UNI nel 2024 che definisce 12 profili professionali specifici per l’Intelligenza Artificiale, allineati al framework europeo e-CF (EN 16234-1). È importante perché fornisce un linguaggio condiviso tra aziende, enti formativi e professionisti per riconoscere competenze, ruoli e responsabilità in ambito AI, e costituisce la base per la certificazione delle persone secondo lo schema ISO/IEC 17024.

Il Regolamento UE 2024/1689 (AI Act) è entrato in vigore il 1° agosto 2024 con applicazione graduale fino al 2 agosto 2027. L’articolo 4 sulla AI literacy del personale è applicabile dal 2 febbraio 2025. Per i sistemi di AI ad alto rischio, le organizzazioni devono dimostrare che il personale abbia competenze documentate: la UNI 11621-8 è lo strumento normativo italiano per identificare e certificare questi profili.

La certificazione formale di terza parte secondo ISO/IEC 17024 sarà rilasciata da organismi accreditati Accredia. Alla data attuale nessun organismo italiano risulta ancora accreditato per i profili UNI 11621-8: l’iter di accreditamento è in corso. La credenziale digitale europea EDC (European Digital Credentials for Learning) rilasciata da AIPIA è invece già operativa e riconosciuta a livello europeo.

La certificazione UNI 11621-8 secondo ISO/IEC 17024 è rilasciata da un organismo di certificazione accreditato Accredia ed è la forma più formale di riconoscimento. La credenziale digitale EDC è un attestato di competenza rilasciato secondo lo standard europeo European Digital Credentials for Learning della Commissione Europea: è verificabile online, ha valore in tutti i Paesi UE e rappresenta lo strumento più rapido e moderno per certificare le proprie competenze AI già oggi.

L’iter prevede: 1) iscrizione ad AIPIA come socio professionista; 2) presentazione del proprio dossier di competenze (CV, formazione, esperienza, portfolio progetti AI); 3) valutazione del comitato tecnico secondo i criteri della norma UNI 11621-8; 4) eventuale colloquio o prova; 5) rilascio della credenziale digitale europea EDC con QR di verifica. La credenziale ha validità triennale ed è rinnovabile con aggiornamento continuo.

La UNI 11621-8 è la declinazione italiana di profili allineati al framework europeo e-Competence Framework (e-CF, EN 16234-1) usato in tutti i Paesi UE. Essendo i profili mappati su e-CF, le competenze certificate sono comprensibili e riconoscibili in tutta Europa. La credenziale EDC rilasciata da AIPIA aggiunge un livello di interoperabilità tecnica perché segue lo standard europeo dei diplomi digitali.

L’AI Security Specialist protegge i sistemi AI da minacce specifiche del Machine Learning e della Generative AI: adversarial attack su modelli, data poisoning durante il training, model inversion e membership inference, prompt injection e jailbreak sugli LLM, esfiltrazione di modelli, abuso di sistemi GenAI. Definisce policy, controlli e monitoring per garantire confidenzialità, integrità e disponibilità dei modelli e dei dati AI.

Gli attacchi più rilevanti: prompt injection diretta e indiretta su LLM e agenti, jailbreak con prompt avversariali, data poisoning di dataset di training open o RAG corpora, adversarial example per visione e classificatori, model stealing tramite query massive, model inversion per estrarre dati personali dal modello, membership inference, supply chain attack su modelli pre-addestrati e librerie ML, deepfake e impersonification.

Riferimenti principali: NIST AI Risk Management Framework (AI RMF), OWASP Top 10 for LLM Applications e per Machine Learning, MITRE ATLAS (knowledge base degli attacchi AI), ISO/IEC 27001 e 27002 per ICT security, ISO/IEC 42001 per AI management system, ISO/IEC 23894 per AI risk management, ENISA AI Threat Landscape. Per la PA: Linee Guida AgID sulla sicurezza informatica e l’AI Act per i sistemi ad alto rischio.

In Italia nel 2025: junior 35-55k€, mid 55-80k€, senior 80-115k€ lordi annui. Specialisti senior in red teaming AI o adversarial ML possono superare 130k€. Le posizioni in CISO office di grandi gruppi finanziari e nelle PMC (Public Made Companies) e nel settore difesa hanno retribuzioni e benefit ulteriormente premianti, soprattutto per profili con nulla osta di sicurezza.

Il red teaming AI consiste nel simulare un attaccante per identificare vulnerabilità del modello: si tentano prompt injection, jailbreak, generazione di contenuti vietati, estrazione di dati sensibili, manipolazione di output, abuso di funzionalità (es. function calling pericolosi). Si producono report di vulnerabilità con scenari riproducibili, livello di rischio, mitigazioni proposte. È pratica raccomandata dall’AI Act per sistemi a rischio sistemico (GPAI con rischi sistemici).

È complementare. La cybersecurity tradizionale protegge l’infrastruttura (rete, endpoint, identità, applicazioni). L’AI Security aggiunge una superficie di attacco specifica del modello (dati, training, inference, prompt, output). I migliori AI Security Specialist hanno solide basi di cybersecurity tradizionale (ad esempio certificazioni come CISSP, CEH, OSCP) e le integrano con competenze ML/DL e LLM-specific.

Servono: solide basi di cybersecurity (network, app, identity, crypto), ML e DL (per capire le superfici di attacco), Python e librerie ML, conoscenza framework adversarial (Adversarial Robustness Toolbox, Foolbox, TextAttack, Garak per LLM), tecniche di red teaming, threat modeling specifico AI, conoscenza di privacy-preserving ML (differential privacy, federated learning, homomorphic encryption), AI Act e normative privacy.

Sì, strettamente. Molti rischi di AI security hanno implicazioni di privacy (model inversion, membership inference, dati personali nei prompt). La collaborazione con il DPO è essenziale per: DPIA dei sistemi AI, gestione data breach con componente AI, valutazione di basi giuridiche per training su dati personali, definizione di retention policy per log di prompt e output, gestione dei diritti dell’interessato (cancellazione da modelli e indici).