Última revisión:
¿Qué es una alucinación IA? Definición y trampa a evitar
Una alucinación es una afirmación factualmente falsa pero formulada con seguridad por un modelo de IA generativa. Deriva del mecanismo estadístico de generación: el modelo predice la siguiente palabra más probable, sin capacidad nativa para verificar. Es el principal riesgo operativo y jurídico de un despliegue de IA en empresa.
La alucinación no es un fallo, es una propiedad estructural de los LLM. Cuatro mecanismos la producen. La generalización excesiva: el modelo extrapola una respuesta plausible a partir de patrones vistos en entrenamiento, incluso cuando el tema preciso no se cubrió. La interpolación entre fuentes contradictorias: el modelo fusiona informaciones divergentes en una afirmación lisa pero inexacta. La presión a responder: sin guardarraíl, el modelo prefiere generar una respuesta confiada antes que reconocer una ignorancia. El desfase temporal: los modelos entrenados antes de una fecha dada ignoran las evoluciones posteriores (knowledge cutoff). Tres factores reducen significativamente las alucinaciones: el uso de la recuperación en la inferencia (RAG o web search), la instrucción explícita al modelo de señalar las incertidumbres, y la validación humana sistemática sobre las salidas con riesgo. Ninguno elimina totalmente el fenómeno. Incluso cuando se les proporciona el documento, los modelos siguen inventando: en la clasificación de Vectara (septiembre de 2026), que mide resúmenes de documentos, la mayoría de los modelos de OpenAI, Anthropic y Google añaden una información ausente del texto en el 5 al 15 % de los casos (6,5 % para GPT-6 Sol, 10,4 % para Gemini 3.1 Pro, 12 % para Claude Opus 4.7).
Ejemplo concreto
Caso Moffatt vs Air Canada, febrero de 2024. Un cliente consulta al chatbot IA de Air Canada sobre la política tarifaria en caso de duelo. El chatbot inventa un procedimiento de reembolso retroactivo dentro de 90 días, mientras que la política real de la compañía exige una reserva a tarifa normal y luego solicitud de reembolso previa al viaje. El cliente sigue la instrucción del chatbot, paga la tarifa normal, y se le niega el reembolso. Demanda a Air Canada ante el Civil Resolution Tribunal de Columbia Británica, que condena a la compañía en febrero de 2024 a honrar la política inventada por su propio chatbot. Primer precedente jurídico anglosajón mayor sobre la responsabilidad editorial de un chatbot IA.
Segundo caso, en un contexto profesional: Mata contra Avianca, junio de 2023, tribunal federal de Nueva York. Dos abogados del bufete Levidow, Levidow & Oberman presentaron un escrito que citaba seis resoluciones judiciales inventadas por ChatGPT. Cuando uno de los abogados preguntó al modelo si las citas eran reales, el modelo había « confirmado » su existencia. El 22 de junio de 2023, el juez P. Kevin Castel sancionó su mala fe: una multa de 5 000 dólares, adeudada solidariamente por los dos abogados y su bufete, y la obligación de escribir a su cliente y a cada uno de los jueces presentados falsamente como autores de las resoluciones inventadas. El caso se ha convertido en el ejemplo de manual del uso no verificado de la IA generativa ante un tribunal.
Comparación
| Técnica | Eficacia | Coste de implementación | Caso de uso típico |
|---|---|---|---|
| RAG (Retrieval-Augmented Generation) | Alta en hechos anclables en una base documental limpia | Medio: infraestructura vectorial + curación continua de fuentes | Asistente que responde sobre una base documental de empresa (soporte, RRHH, jurídico) |
| Chain-of-verification (auto-verificación) | Media: reduce errores pero costosa en tokens | Bajo: modificación del prompt únicamente | Generación de contenido con implicaciones (resúmenes, informes) sin datos externos |
| Grounding + cita obligatoria | Alta: el modelo está obligado a citar cada afirmación | Bajo a medio: instrucción del prompt + post-procesado de las salidas | Informes analíticos, síntesis documentales, respuestas jurídicas |
| Human-in-the-loop (validación sistemática) | Máxima: ninguna salida sin validar llega a producción | Alto: cuello de botella humano, no escalable más allá de cierto volumen | Decisiones de alto impacto (jurídico, médico, financiero, comunicación pública) |
| Structured output (esquema impuesto) | Alta para datos estructurados, baja para generación libre | Bajo: uso nativo en las API modernas (modo JSON, uso de herramientas) | Extracción de datos, clasificación, rellenado de formularios |
Preguntas frecuentes
¿Por qué los modelos de IA alucinan?
La alucinación es estructural, no un bug. Un LLM predice la palabra estadísticamente más probable, sin capacidad nativa para verificar sus afirmaciones. Cuatro mecanismos: sobregeneralización, interpolación entre fuentes contradictorias, presión por responder en lugar de admitir ignorancia, y desfase temporal (knowledge cutoff).
¿Cómo detectar una alucinación de IA?
Tres señales: citas que no aparecen en ninguna búsqueda externa, cifras demasiado precisas sin fuente rastreable, y afirmaciones categóricas sobre temas recientes o de nicho. Toda salida con implicaciones jurídicas, financieras o médicas exige verificación humana independiente: incluso al resumir un documento proporcionado, la mayoría de los grandes modelos añaden una información ausente del texto en el 5 al 15 % de los casos (clasificación de Vectara, septiembre de 2026).
¿Cómo reducir las alucinaciones de un LLM?
Tres palancas eficaces: RAG (Retrieval-Augmented Generation) para anclar las respuestas en documentos fuente, instrucción explícita al modelo para señalar la incertidumbre, y revisión humana sistemática de las salidas con implicaciones. Ninguna elimina el fenómeno; reducen la frecuencia y hacen detectable el error.
¿Quién es responsable jurídicamente de una alucinación?
La empresa que despliega el chatbot o asistente IA sigue siendo responsable de las afirmaciones producidas. Así lo estableció Moffatt v. Air Canada (febrero 2024): Air Canada fue condenada a honrar una política de reembolso inventada por su propio chatbot. El proveedor de IA no es parte del litigio frente al cliente.
¿Todas las IA alucinan?
Todos los modelos generativos basados en LLM alucinan, incluso los más recientes. Los sistemas deterministas (motores de reglas, búsqueda full-text) no alucinan pero tampoco razonan. Las arquitecturas híbridas RAG + LLM + citas verificables reducen el riesgo pero no lo eliminan: es una propiedad del paradigma generativo.
¿Basta con un RAG para eliminar las alucinaciones?
No. El RAG reduce significativamente las alucinaciones al anclar la respuesta en documentos fuente, pero el modelo puede reformular, mezclar o distorsionar los extractos recuperados. Una buena configuración exige citación explícita de los pasajes fuente, chunking cuidado, y evaluación continua de la tasa de fidelidad (grounding rate).
Ver también
Para profundizar
Moffatt v. Air Canada, Civil Resolution Tribunal of British Columbia, febrero de 2024
Fuentes
- Moffatt v. Air Canada, Civil Resolution Tribunal of British Columbia, decisión del 14 de febrero de 2024 (2024 BCCRT 149). https://www.canlii.org/en/bc/bccrt/doc/2024/2024bccrt149/2024bccrt149.html
- AI Incident Database, incidente #563, alucinación chatbot Air Canada, 2024. https://incidentdatabase.ai/cite/563
- Mata v. Avianca, Inc., tribunal federal del distrito sur de Nueva York, decisión de sanciones del 22 de junio de 2023 (FindLaw). https://caselaw.findlaw.com/court/us-dis-crt-sd-new-yor/2335142.html
- Hallucination Leaderboard (HHEM), Vectara, actualización del 22 de septiembre de 2026 (tasa de alucinación al resumir un documento proporcionado). https://github.com/vectara/hallucination-leaderboard