Perfiles profesionales de IA · Datos, seguridad e investigación

AI Security Specialist: el especialista en seguridad de la IA en la UNI 11621-8

El AI Security Specialist, el especialista en seguridad de la IA, protege los sistemas de inteligencia artificial frente a los ataques y garantiza su integridad a lo largo de todo su ciclo de vida. La UNI 11621-8:2026 le reconoce un rol propio, distinto del de los especialistas en ciberseguridad tradicional, porque los modelos de IA se enfrentan a amenazas específicas.

El rol

Qué hace un especialista en seguridad de la IA

El especialista en seguridad de la IA analiza los riesgos de seguridad de los sistemas de IA, de los datos de entrenamiento a los modelos en producción, de los prompts a las respuestas. Defiende frente a ataques adversarios, manipulación de los datos, robo del modelo, inyección de prompts y violaciones de la privacidad de las personas representadas en el conjunto de datos.

Es una figura híbrida entre ciberseguridad, aprendizaje automático y gobernanza de los datos, y trabaja en estrecho contacto con el AI Data Engineer, el AI Algorithm Engineer y los equipos de cumplimiento.

Responsabilidades principales

  • Evaluar el riesgo de seguridad de los sistemas de IA en todas las fases del ciclo de vida.

  • Implementar defensas frente a ataques adversarios y técnicas de evasión.

  • Proteger los datos de entrenamiento y los parámetros del modelo.

  • Vigilar los sistemas en producción para detectar comportamientos anómalos.

  • Garantizar el cumplimiento del Reglamento de IA, del RGPD y de la Directiva NIS 2.

  • Coordinar la respuesta a incidentes propios de los sistemas de IA.

  • Difundir dentro de la organización la conciencia sobre los riesgos de la IA.

Competencias

Las competencias de un especialista en seguridad de la IA

Competencias técnicas. Sólidas bases de ciberseguridad, conocimiento de los principales algoritmos de aprendizaje automático, familiaridad con las técnicas de aprendizaje automático adversario, dominio de las herramientas de monitorización y de búsqueda de vulnerabilidades, y capacidad de escribir código en Python.

Competencias transversales. Pensamiento adversario, capacidad de anticipar escenarios de ataque, comunicación del riesgo a interlocutores no técnicos y un conocimiento profundo de la normativa europea sobre IA y ciberseguridad. La UNI 11621-8 subraya la importancia de la responsabilidad ética en el rol, sobre todo en los sistemas de IA de alto riesgo.

Formación y trayectoria

El camino típico incluye un título en informática o ingeniería con especialización en ciberseguridad, completado con formación específica en inteligencia artificial y aprendizaje automático adversario. Se valora mucho la experiencia previa en operaciones de seguridad o en búsqueda de vulnerabilidades. La actualización continua es imprescindible: se publican técnicas de ataque nuevas constantemente y la disciplina evoluciona deprisa.

UNI 11621-8

El AI Security Specialist en la UNI 11621-8

La norma agrupa sus doce perfiles en tres familias. El AI Security Specialist pertenece a datos, seguridad e investigación, los cuatro perfiles que preparan los datos, protegen los sistemas y exploran las fronteras, con el AI Data Engineer, el AI Data Scientist y el AI Research Scientist. La pregunta a la que responde: «¿Cómo protegemos los sistemas y modelos de IA?». Su orientación: seguridad y riesgos específicos de la IA.

La certificación UNI 11621-8 de este perfil la emite un organismo de certificación independiente, acreditado según la ISO/IEC 17024, tras un examen independiente que incluye una prueba práctica. La credencial europea que entrega AIPIA es un reconocimiento distinto y complementario: documenta la formación completada con los cursos de AIPIA.

Preguntas frecuentes

Preguntas sobre el especialista en seguridad de la IA

¿De qué se ocupa un especialista en seguridad de la IA?

El especialista en seguridad de la IA protege los sistemas de IA frente a amenazas propias del aprendizaje automático y de la IA generativa: ataques adversarios, envenenamiento de datos, inversión del modelo, inferencia de pertenencia, inyección de prompts, jailbreaks, exfiltración de modelos y abuso de los sistemas generativos. Define políticas, controles y monitorización para proteger la confidencialidad, la integridad y la disponibilidad de los modelos y los datos de IA.

¿Qué significa hacer red teaming de un sistema de IA?

Hacer red teaming de un sistema de IA significa simular a un atacante para encontrar las debilidades del modelo: se prueban la inyección de prompts, los jailbreaks, la generación de contenidos prohibidos, la extracción de datos sensibles, la manipulación de las respuestas y el abuso de funcionalidades como la llamada a herramientas externas. El resultado es un informe de vulnerabilidades con escenarios reproducibles, nivel de riesgo y mitigaciones propuestas.

¿Qué relación hay entre la seguridad de la IA y la ciberseguridad tradicional?

El campo del especialista en seguridad de la IA complementa la ciberseguridad tradicional: la ciberseguridad protege la infraestructura, es decir, redes, dispositivos, identidades y aplicaciones, mientras que la seguridad de la IA añade una superficie de ataque propia del modelo, formada por los datos de entrenamiento, el proceso de entrenamiento, la inferencia, los prompts y las respuestas generadas. Los mejores especialistas combinan una sólida base de ciberseguridad tradicional con competencias de aprendizaje automático, aprendizaje profundo y modelos de lenguaje.

¿Debe colaborar un especialista en seguridad de la IA con el delegado de protección de datos?

Sí, estrechamente: muchos riesgos de seguridad de la IA, de la inversión del modelo a los datos personales en los prompts, tienen implicaciones de privacidad, y la colaboración con el delegado de protección de datos es esencial para las evaluaciones de impacto, las brechas de datos con componente de IA y la base jurídica del entrenamiento con datos personales. Juntos definen también las políticas de conservación de los registros de prompts y respuestas y gestionan los derechos de los interesados, incluida la supresión en modelos e índices.

Siguientes pasos

Compara los perfiles y prepárate

La guía de los 12 perfiles profesionales de IA compara toda la norma, familia por familia. La página de formación presenta los cursos de AIPIA: el Curso IA Base y el Curso IA Avanzado terminan con un examen final, y quien lo supera recibe una credencial europea, con sello eIDAS y verificable en Europass.

Con el apoyo de:AdobeAnthropicMetaMicrosoftCanvaAsanaDocuSignZoomHootsuiteUpworkKeelaAzure
Hazte socio
Italiano✓ English✓ Español✓