Nuevo · Presidenciales francesas 2027: qué proponen los candidatos sobre la IA (en francés). Explorar el observatorio →

Última revisión:

¿Qué es la IA de confianza? Definición, las 7 exigencias y qué puede exigir un directivo

La IA de confianza (trustworthy AI) es una IA lícita, ética y robusta que cumple siete exigencias definidas por el grupo de expertos de alto nivel de la Comisión Europea el 8 de abril de 2019: acción y supervisión humanas, solidez técnica y seguridad, privacidad y gobernanza de los datos, transparencia, diversidad y equidad, bienestar social y medioambiental, rendición de cuentas. El AI Act recoge su espíritu.

La expresión procede de las directrices éticas para una IA fiable, publicadas el 8 de abril de 2019 por el grupo de expertos de alto nivel sobre IA, designado por la Comisión Europea. Una IA de confianza debe ser lícita (conforme a la ley), ética (conforme a los valores) y robusta (técnica y socialmente). Cumple siete exigencias: acción y supervisión humanas; solidez técnica y seguridad; privacidad y gobernanza de los datos; transparencia; diversidad, no discriminación y equidad; bienestar social y medioambiental; rendición de cuentas. El texto no es vinculante. Va acompañado de una lista de evaluación, ALTAI, publicada el 17 de julio de 2020 tras un piloto con más de 350 participantes. El AI Act (Reglamento UE 2024/1689) lo ha convertido en su hilo conductor: su artículo 1 busca promover una IA centrada en el ser humano y fiable, y su considerando 27 recoge los siete principios como base no vinculante. En Francia, el programa Confiance.ai, lanzado en 2021 en el marco de un Gran Desafío del Estado y dirigido por el IRT SystemX, reunió a trece socios estructurantes (Airbus, Thales, Renault, Safran, Valeo, el CEA, Inria, etc.) con un presupuesto de 45 millones de euros a cuatro años, para industrializar la IA de confianza en los sistemas críticos. Concluyó en septiembre de 2024; se anunció una fundación europea para dar continuidad a sus herramientas. No la confunda con la IA responsable, que se centra en la aplicación y la rendición de cuentas: véase el cuadro.

Ejemplo concreto

Caso ilustrativo: un fabricante de equipos de 400 empleados elige un proveedor de IA para la inspección visual de sus soldaduras. En lugar de fiarse del folleto comercial, el departamento de calidad pide al proveedor que documente cada una de las siete exigencias: quién supervisa las decisiones y puede corregirlas, cómo se probó la robustez (luz, polvo, piezas nuevas), de dónde proceden los datos de entrenamiento, cómo se explica una decisión a un operario, qué diferencias de rendimiento existen entre líneas de producción y quién responde en caso de error. Dos respuestas se consideran insuficientes: el proveedor las completa antes de la firma. El expediente se convierte además en la base del seguimiento anual del contrato.

Comparación

IA de confianza, IA responsable, IA ética: tres expresiones, tres enfoques
IA de confianzaIA responsableIA ética
Referencia principalDirectrices del grupo de expertos de la Comisión (2019)Principios de la OCDE sobre IA (2019, revisados en 2024)Valores y cartas propios de cada organización
ContenidoTres componentes (lícita, ética, robusta), siete exigenciasCinco principios, centrados en la aplicaciónSin lista común
Pregunta que plantea¿Se puede confiar en este sistema?¿Quién responde de qué, con qué pruebas?¿Lo que hacemos es justo?
Estatuto jurídicoNo vinculante; espíritu recogido por el AI ActNo vinculante; ISO 42001 para la organizaciónNinguno
Herramienta asociadaALTAI (2020)Registro de usos, ISO/IEC 42001Carta, comité de ética

Preguntas frecuentes

¿Qué es la IA de confianza?

La IA de confianza (trustworthy AI) es una IA lícita, ética y robusta que respeta siete exigencias definidas por el grupo de expertos de alto nivel de la Comisión Europea en abril de 2019. Sirve de referencia al AI Act, pero el término no está definido como tal en la ley.

¿Cuál es la definición de IA de confianza?

Según las directrices europeas de 2019, es una IA que es a la vez lícita, ética y robusta, y que cumple siete exigencias: acción y supervisión humanas, solidez y seguridad, privacidad y datos, transparencia, diversidad y equidad, bienestar social y medioambiental, rendición de cuentas.

¿Cuáles son las 7 exigencias de la IA de confianza?

1. Acción y supervisión humanas. 2. Solidez técnica y seguridad. 3. Privacidad y gobernanza de los datos. 4. Transparencia. 5. Diversidad, no discriminación y equidad. 6. Bienestar social y medioambiental. 7. Rendición de cuentas (accountability).

¿Qué diferencia hay entre IA de confianza e IA responsable?

La IA de confianza se apoya en un marco europeo preciso: tres componentes y siete exigencias. La IA responsable designa más bien el enfoque de la organización (principios de la OCDE, gobernanza, pruebas) para diseñar, comprar y utilizar la IA. La primera describe el resultado esperado, la segunda la manera de lograrlo.

¿Es obligatoria la IA de confianza?

Las siete exigencias de 2019 no son vinculantes. El AI Act recoge su espíritu y hace obligatoria una parte según el nivel de riesgo: prohibiciones, transparencia, exigencias a los sistemas de alto riesgo. Fuera de estos casos, el enfoque sigue siendo voluntario.

¿Qué es Confiance.ai?

Es un programa francés de investigación e ingeniería lanzado en 2021, dirigido por el IRT SystemX, financiado por France 2030 (45 millones de euros a cuatro años en su lanzamiento) y que reunió a industriales y laboratorios. Apuntaba a la IA de confianza en los sistemas críticos y concluyó en septiembre de 2024.

¿Cómo saber si una IA es digna de confianza?

Ninguna etiqueta única lo garantiza. Se piden pruebas sobre las siete exigencias: supervisión humana, pruebas de robustez, origen de los datos, explicaciones, medición de sesgos, responsable designado. La lista de evaluación ALTAI de la Comisión (2020) sirve de guía de autoevaluación.

¿Qué es ALTAI?

ALTAI (Assessment List for Trustworthy AI) es una lista de autoevaluación publicada el 17 de julio de 2020 por el grupo de expertos de alto nivel. Traduce las siete exigencias en preguntas concretas para desarrolladores y responsables del despliegue de IA.

Ver también

Para profundizar

Ethics Guidelines for Trustworthy AI, Comisión Europea, 8 de abril de 2019 (en inglés) (recurso externo)

Fuentes

  1. Ethics Guidelines for Trustworthy AI, High-Level Expert Group on AI, Comisión Europea, 8 de abril de 2019. https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai (consultado el 2026-11-14)
  2. Assessment List for Trustworthy AI (ALTAI), Comisión Europea, 17 de julio de 2020. https://digital-strategy.ec.europa.eu/en/library/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment (consultado el 2026-11-14)
  3. Reglamento (UE) 2024/1689 (AI Act), artículo 1 y considerando 27. https://artificialintelligenceact.eu/article/1/ (consultado el 2026-11-14)
  4. AI Act, considerando 27 (siete principios éticos no vinculantes). https://artificialintelligenceact.eu/recital/27/ (consultado el 2026-11-14)
  5. The Confiance.ai program reveals its first significant results, ActuIA, 6 de octubre de 2021 (13 socios estructurantes, 45 M EUR a 4 años). https://www.actuia.com/en/news/the-confiance-ai-program-reveals-its-first-significant-results-with-6-practical-use-cases/ (consultado el 2026-11-14)
  6. Confiance.ai: una hoja de ruta europea para la industrialización de la IA de confianza, ActuIA, 10 de abril de 2025 (programa concluido en septiembre de 2024). https://www.actuia.com/actualite/confianceai-une-feuille-de-route-europeenne-pour-lindustrialisation-de-lia-de-confiance/ (consultado el 2026-11-14)

Método editorialRegistro de correcciones

← Volver al glosario

Dirección copiada