Alucinaciones, sesgos y fiabilidad de la IA: la guía práctica
Guía de la colección AIPIA: 40 páginas en PDF, descarga libre sin registro.
De qué trata esta guía
Un abogado pide a un modelo generativo algunas sentencias que apoyen su tesis. Recibe casos precisos: nombres de las partes, números de causa, fechas, citas textuales. Todo verosímil, todo inventado. Es un caso real: ha ocurrido en más de un tribunal, con sanciones para quien había presentado esos escritos sin controlarlos.
La guía parte de aquí y explica por qué se trata de un rasgo del funcionamiento de los modelos, fuera del alcance de una simple actualización. Un modelo predice la palabra más probable, y la verdad queda fuera de ese cálculo: cuando la continuación probable coincide con los hechos parece que sabe; cuando los hechos le son desconocidos produce igualmente una respuesta verosímil. La alucinación se reduce y se gestiona, y siempre queda una parte.
Junto a las invenciones, el texto distingue otros dos fenómenos: el error, que nace de una petición poco clara, y el sesgo, la distorsión sistemática que el modelo hereda de los datos de entrenamiento. Tres problemas diferentes, tres respuestas diferentes: verificar la fuente, reformular la pregunta, comparar varias salidas.
Cómo está organizada
Parte I · Por qué la IA se equivoca: qué son las alucinaciones y por qué ocurren, cómo funciona de verdad un modelo generativo, de dónde vienen los prejuicios de los modelos, la diferencia entre error, alucinación y sesgo.
Parte II · Reconocer y verificar: las señales que delatan una invención, el método para verificar las fuentes, el sesgo en acción con ejemplos concretos, un mapa de la fiabilidad por tipo de tarea, el riesgo del exceso de confianza.
Parte III · Reducir los riesgos: prompts y contexto que reducen las invenciones desde el origen, pedir que cite las fuentes y comprobarlas, el grounding y la recuperación de documentos explicados de forma sencilla, mantener a la persona en el ciclo, documentar las verificaciones.
Parte IV · Método y cultura: la lista de control antes de usar una salida, una mini política de verificación para el equipo, el pensamiento crítico ante la IA, los errores de quien confía demasiado o demasiado poco, medir la calidad en el tiempo.
Tres ideas de la guía
Pedir que transforme lo que le das
La causa más frecuente de una invención es pedirle al modelo algo que no le has dado. «¿Cuáles son las tres causas principales de este fenómeno?» lo obliga a recurrir a su memoria, y ahí se equivoca. «A partir de los tres informes adjuntos, resume las causas indicadas citando para cada una el informe de origen» lo pone a trabajar sobre hechos presentes, que puedes controlar. Acotar el campo y autorizar el «no lo sé» completan la defensa: tres instrucciones sin coste que funcionan en cualquier herramienta. Cuando puedas elegir, elige siempre la transformación.
La verificación se dosifica según el peso de las consecuencias
Verificar significa ajustar el control a lo que está en juego. La guía separa dos niveles con una sola pregunta: si esta información fuera errónea, ¿qué pasaría? Para un borrador interno basta una lectura atenta; para un escrito, un dictamen o un dato que orienta una decisión, cada hecho concreto se rastrea hasta la fuente primaria. La verificación vale solo si es independiente: preguntarle a un segundo modelo si es verdad solo produce un eco. Y una fuente que no se encuentra se trata como lo que es: una invención.
La comparación controlada que destapa el sesgo
El sesgo se ve en los resultados: el modelo carece de intenciones a las que preguntar. La técnica es cambiar un solo elemento de la petición, el que no debería contar, y mirar si la respuesta se mueve. Pide las cualidades de un buen enfermero llamado Marco y después las de una enfermera llamada María: si cambian las cualidades enumeradas, el tono o el nivel de competencia atribuido, el modelo está usando el nombre como señal. Donde las salidas afectan a personas, cuenta también observar los efectos agregados: una distorsión pequeña, repetida en muchos casos, se convierte en una desigualdad real.
Para quién es y cómo se usa
Para quién es: Quien usa la IA para producir textos, análisis o decisiones y necesita saber cuándo fiarse de una respuesta.
Acceso: El PDF, en italiano, se descarga enseguida y sin registro.
Para profundizar: el artículo que acompaña esta guía (en italiano)
Guías relacionadas
Descarga el PDF completo
Alucinaciones, sesgos y fiabilidad de la IA: la guía práctica: 40 páginas en PDF, 1,07 MB, en italiano. La descarga es libre y sin registro.
Todas las guías y la Asociación
Esta guía forma parte de los materiales que AIPIA pone a disposición de profesionales y comunidad. En la página de las guías las encuentras todas; como socio sostienes su producción y accedes a la formación y a la credencial europea.























