Pista de auditoría de la IA: cómo documentar su uso de forma trazable
Guía de la colección AIPIA reservada a los socios: 28 páginas en PDF, en italiano.
De qué trata esta guía
Un modelo rechaza una solicitud de préstamo. Seis meses después el cliente impugna la decisión y una autoridad pide reconstruirla. Sin un registro ordenado la respuesta es un silencio incómodo: se desconoce qué datos se usaron, qué versión del modelo decidió, si un operador la verificó.
Una pista de auditoría (audit trail) de la IA es el registro cronológico, verificable y protegido contra manipulaciones de cada evento relevante a lo largo de la vida de un sistema. La diferencia con un log tradicional está toda aquí: un log dice que el sistema ha funcionado; la pista de auditoría dice por qué ha decidido de ese modo, con qué datos y qué modelo, y quién ha vigilado.
La guía explica qué registrar fase por fase, cómo hacer fiable el registro y con qué herramientas, del despacho profesional a la entidad pública. El Reglamento de IA, el RGPD y las reglas sectoriales convergen en un punto: la trazabilidad es la condición para demostrar el cumplimiento. El reglamento pide también un nivel adecuado de competencia a quien usa estos sistemas, tema que la guía conecta con la formación del personal.
Cómo está organizada
Parte I · Por qué una pista de auditoría para la IA: qué distingue la trazabilidad de un sistema de IA de un log normal, los cuatro pilares (trazabilidad, responsabilidad, transparencia, integridad), el valor estratégico del registro y el marco del Reglamento de IA, el RGPD y las reglas sectoriales.
Parte II · Qué registrar, el ciclo de vida: las seis fases, del diseño y la gobernanza de los datos al entrenamiento y la validación, hasta la operación, el seguimiento de la degradación en el tiempo y la retirada, con la tabla de quién responde de cada una.
Parte III · Cómo hacerlo bien: inmutabilidad, cifrado y cadena de hash, políticas de conservación y revisión por excepción, integración con las herramientas de seguridad que ya tienes en casa, Model Card y Datasheet de los datos, relación con el RGPD, documentación mínima sostenible.
Parte IV · Herramientas, casos y puesta en marcha: las tres familias de herramientas y los criterios para elegirlas, qué cambia entre despacho, pyme y entidad pública, dos casos de alto riesgo (crédito y diagnóstico médico), los errores comunes, una hoja de ruta en cinco pasos y la lista de control.
Tres ideas de la guía
La cadena de hash que convierte un archivo en una prueba
Un registro que se puede modificar o borrar sin dejar rastro pierde todo su valor en una verificación. El mecanismo que lo hace defendible es sencillo: a cada entrada se aplica una función que produce una huella numérica, y en esa huella se incluye también la de la entrada anterior. Se forma una cadena. Si alguien altera un registro antiguo, su huella cambia y con ella todas las siguientes: la manipulación se vuelve visible sin comparar los contenidos, basta verificar la cadena. Alrededor de esto la guía coloca las demás defensas: almacenamiento en soportes de escritura única, cifrado en reposo y en tránsito, y todo acceso privilegiado trazado, también el de los administradores.
El campo que el Reglamento de IA pide poder mostrar
En la secuencia de logs reconstruida para una solicitud de crédito, todo lleva a una última entrada: el operador ha revisado la decisión y la explicación, ha confirmado el rechazo y ha dejado escrito por qué. Sin esa línea el sistema ha decidido solo, y en un caso de alto riesgo eso es inadmisible. La motivación de la intervención humana es la prueba de la supervisión que el reglamento exige: un campo imprescindible. Vale también hacia dentro: las anulaciones humanas recurrentes, leídas juntas, muestran dónde el modelo se equivoca de forma sistemática.
El registro mínimo para quien usa la IA sin construirla
Un despacho o una pequeña empresa usa modelos entrenados por otros, así que su registro se centra en el uso: qué utiliza, sobre qué datos y quién ha verificado. Para estos casos la guía propone un registro esencial, incluso una simple hoja estructurada, con pocos campos para cada uso relevante: fecha y hora, sistema y versión, finalidad, solicitante, tipo de datos de entrada y si estaban anonimizados, síntesis del resultado, desenlace de la decisión humana entre aceptado, modificado y descartado, motivación en una línea, quién controló antes del uso. Está hecho a la medida de una organización pequeña, con un alcance distinto del de un banco: es el mínimo que permite, meses después, reconstruir una decisión y demostrar que hubo un control humano.
Para quién es y cómo se usa
Para quién es: Quien debe documentar el uso de la IA de forma trazable: cumplimiento normativo, TI, direcciones, despachos profesionales.
Acceso: El PDF completo, en italiano, está disponible para los socios de AIPIA con la cuota asociativa activa: la cuota es la llave de las guías reservadas.
Para profundizar: el artículo que acompaña esta guía (en italiano)
Guías relacionadas
La guía completa está reservada a los socios de AIPIA
Pista de auditoría de la IA: cómo documentar su uso de forma trazable: 28 páginas en PDF, en italiano. Lo que has leído aquí arriba es el adelanto; el PDF completo está disponible para los socios de AIPIA con la cuota asociativa activa.
¿Ya eres socio? Inicia sesión y descárgala desde la ficha de la guía (en italiano).
Todas las guías y la Asociación
Esta guía forma parte de los materiales que AIPIA pone a disposición de profesionales y comunidad. En la página de las guías las encuentras todas; como socio sostienes su producción y accedes a la formación y a la credencial europea.























