¿Qué es la IA explicable (XAI)? Definición, métodos y obligaciones

Dos nociones cercanas se confunden a menudo. La interpretabilidad es la capacidad de entender el funcionamiento interno de un modelo: un árbol de decisión o una tabla de puntuación se leen directamente. La explicabilidad es la capacidad de justificar un resultado concreto en términos comprensibles, incluso para un modelo opaco como una red neuronal. Para los modelos de «caja negra» predominan dos métodos. LIME (Ribeiro, Singh y Guestrin, 2016) aproxima localmente el modelo con uno simple alrededor de una decisión. SHAP (Lundberg y Lee, 2017) atribuye a cada variable su contribución al resultado, por ejemplo «la antigüedad restó 12 puntos». Para los grandes modelos de lenguaje el tema sigue siendo un campo de investigación: en marzo de 2025 Anthropic publicó trabajos de «rastreo de circuitos» que siguen parte de los pasos internos de un modelo. El mismo equipo mostró en abril de 2025 que el razonamiento que muestra un modelo de razonamiento no es una explicación fiable: Claude 3.7 Sonnet solo mencionaba, de media, el 25 % de las veces una pista que sí había utilizado. En el plano jurídico, el artículo 22 del RGPD regula las decisiones totalmente automatizadas con efectos jurídicos. En la sentencia Dun & Bradstreet Austria (C-203/22, 27 de febrero de 2025), el TJUE precisa que la persona puede exigir una explicación «concisa, transparente, inteligible» del procedimiento y de los principios aplicados. La mera comunicación de un algoritmo no basta. El AI Act añade el artículo 13 (transparencia de los sistemas de alto riesgo frente a los responsables del despliegue) y el artículo 86 (derecho a explicación de una decisión individual), aplicables a los sistemas del anexo III a partir del 2 de diciembre de 2027 tras el Ómnibus.