# ¿Qué es la IA de confianza? Definición, las 7 exigencias y qué puede exigir un directivo

> La IA de confianza (trustworthy AI) es una IA lícita, ética y robusta que cumple siete exigencias definidas por el grupo de expertos de alto nivel de la Comisión Europea el 8 de abril de 2019: acción y supervisión humanas, solidez técnica y seguridad, privacidad y gobernanza de los datos, transparencia, diversidad y equidad, bienestar social y medioambiental, rendición de cuentas. El AI Act recoge su espíritu.

## Definición
La expresión procede de las directrices éticas para una IA fiable, publicadas el 8 de abril de 2019 por el grupo de expertos de alto nivel sobre IA, designado por la Comisión Europea. Una IA de confianza debe ser lícita (conforme a la ley), ética (conforme a los valores) y robusta (técnica y socialmente). Cumple siete exigencias: acción y supervisión humanas; solidez técnica y seguridad; privacidad y gobernanza de los datos; transparencia; diversidad, no discriminación y equidad; bienestar social y medioambiental; rendición de cuentas. El texto no es vinculante. Va acompañado de una lista de evaluación, ALTAI, publicada el 17 de julio de 2020 tras un piloto con más de 350 participantes. El AI Act (Reglamento UE 2024/1689) lo ha convertido en su hilo conductor: su artículo 1 busca promover una IA centrada en el ser humano y fiable, y su considerando 27 recoge los siete principios como base no vinculante. En Francia, el programa Confiance.ai, lanzado en 2021 en el marco de un Gran Desafío del Estado y dirigido por el IRT SystemX, reunió a trece socios estructurantes (Airbus, Thales, Renault, Safran, Valeo, el CEA, Inria, etc.) con un presupuesto de 45 millones de euros a cuatro años, para industrializar la IA de confianza en los sistemas críticos. Concluyó en septiembre de 2024; se anunció una fundación europea para dar continuidad a sus herramientas. No la confunda con la IA responsable, que se centra en la aplicación y la rendición de cuentas: véase el cuadro.

## Ejemplo
Caso ilustrativo: un fabricante de equipos de 400 empleados elige un proveedor de IA para la inspección visual de sus soldaduras. En lugar de fiarse del folleto comercial, el departamento de calidad pide al proveedor que documente cada una de las siete exigencias: quién supervisa las decisiones y puede corregirlas, cómo se probó la robustez (luz, polvo, piezas nuevas), de dónde proceden los datos de entrenamiento, cómo se explica una decisión a un operario, qué diferencias de rendimiento existen entre líneas de producción y quién responde en caso de error. Dos respuestas se consideran insuficientes: el proveedor las completa antes de la firma. El expediente se convierte además en la base del seguimiento anual del contrato.

## Para un directivo
Cinco exigencias que plantear a todo proveedor que califique su IA «de confianza». Primero, una respuesta escrita, punto por punto, a las siete exigencias de 2019, con la prueba que la respalde: «de confianza» sin pruebas no es un compromiso. Segundo, la clasificación del uso conforme al AI Act y la identificación del papel de cada parte (proveedor, responsable del despliegue), con la documentación técnica correspondiente. Tercero, los resultados de pruebas de robustez con datos próximos a los suyos y los límites conocidos del sistema. Cuarto, un derecho de auditoría o de acceso a los registros, y la obligación de informarle de los incidentes y de los cambios de modelo. Quinto, una prueba de organización: por ejemplo una certificación ISO/IEC 42001 (voluntaria) o un dispositivo equivalente. La falta de respuesta en alguno de estos puntos debe tratarse como un riesgo que hay que resolver antes de firmar.

*IA de confianza, IA responsable, IA ética: tres expresiones, tres enfoques*

|  | IA de confianza | IA responsable | IA ética |
| --- | --- | --- | --- |
| Referencia principal | Directrices del grupo de expertos de la Comisión (2019) | Principios de la OCDE sobre IA (2019, revisados en 2024) | Valores y cartas propios de cada organización |
| Contenido | Tres componentes (lícita, ética, robusta), siete exigencias | Cinco principios, centrados en la aplicación | Sin lista común |
| Pregunta que plantea | ¿Se puede confiar en este sistema? | ¿Quién responde de qué, con qué pruebas? | ¿Lo que hacemos es justo? |
| Estatuto jurídico | No vinculante; espíritu recogido por el AI Act | No vinculante; ISO 42001 para la organización | Ninguno |
| Herramienta asociada | ALTAI (2020) | Registro de usos, ISO/IEC 42001 | Carta, comité de ética |

## Preguntas frecuentes

**¿Qué es la IA de confianza?**
La IA de confianza (trustworthy AI) es una IA lícita, ética y robusta que respeta siete exigencias definidas por el grupo de expertos de alto nivel de la Comisión Europea en abril de 2019. Sirve de referencia al AI Act, pero el término no está definido como tal en la ley.

**¿Cuál es la definición de IA de confianza?**
Según las directrices europeas de 2019, es una IA que es a la vez lícita, ética y robusta, y que cumple siete exigencias: acción y supervisión humanas, solidez y seguridad, privacidad y datos, transparencia, diversidad y equidad, bienestar social y medioambiental, rendición de cuentas.

**¿Cuáles son las 7 exigencias de la IA de confianza?**
1. Acción y supervisión humanas. 2. Solidez técnica y seguridad. 3. Privacidad y gobernanza de los datos. 4. Transparencia. 5. Diversidad, no discriminación y equidad. 6. Bienestar social y medioambiental. 7. Rendición de cuentas (accountability).

**¿Qué diferencia hay entre IA de confianza e IA responsable?**
La IA de confianza se apoya en un marco europeo preciso: tres componentes y siete exigencias. La IA responsable designa más bien el enfoque de la organización (principios de la OCDE, gobernanza, pruebas) para diseñar, comprar y utilizar la IA. La primera describe el resultado esperado, la segunda la manera de lograrlo.

**¿Es obligatoria la IA de confianza?**
Las siete exigencias de 2019 no son vinculantes. El AI Act recoge su espíritu y hace obligatoria una parte según el nivel de riesgo: prohibiciones, transparencia, exigencias a los sistemas de alto riesgo. Fuera de estos casos, el enfoque sigue siendo voluntario.

**¿Qué es Confiance.ai?**
Es un programa francés de investigación e ingeniería lanzado en 2021, dirigido por el IRT SystemX, financiado por France 2030 (45 millones de euros a cuatro años en su lanzamiento) y que reunió a industriales y laboratorios. Apuntaba a la IA de confianza en los sistemas críticos y concluyó en septiembre de 2024.

**¿Cómo saber si una IA es digna de confianza?**
Ninguna etiqueta única lo garantiza. Se piden pruebas sobre las siete exigencias: supervisión humana, pruebas de robustez, origen de los datos, explicaciones, medición de sesgos, responsable designado. La lista de evaluación ALTAI de la Comisión (2020) sirve de guía de autoevaluación.

**¿Qué es ALTAI?**
ALTAI (Assessment List for Trustworthy AI) es una lista de autoevaluación publicada el 17 de julio de 2020 por el grupo de expertos de alto nivel. Traduce las siete exigencias en preguntas concretas para desarrolladores y responsables del despliegue de IA.

## Para seguir

- [IA responsable](https://wyp.agency/es/glosario/ia-responsable/)
- [AI Act](https://wyp.agency/es/glosario/ai-act/)
- [ISO/IEC 42001](https://wyp.agency/es/glosario/iso-42001/)
- [IA explicable (XAI)](https://wyp.agency/es/glosario/ia-explicable/)
- [Salvaguardas](https://wyp.agency/es/glosario/salvaguardas/)
- [Sesgo algorítmico](https://wyp.agency/es/glosario/sesgo-algoritmico/)

## Fuentes

- Ethics Guidelines for Trustworthy AI, High-Level Expert Group on AI, Comisión Europea, 8 de abril de 2019 (https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai)
- Assessment List for Trustworthy AI (ALTAI), Comisión Europea, 17 de julio de 2020 (https://digital-strategy.ec.europa.eu/en/library/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment)
- Reglamento (UE) 2024/1689 (AI Act), artículo 1 y considerando 27 (https://artificialintelligenceact.eu/article/1/)
- AI Act, considerando 27 (siete principios éticos no vinculantes) (https://artificialintelligenceact.eu/recital/27/)
- The Confiance.ai program reveals its first significant results, ActuIA, 6 de octubre de 2021 (13 socios estructurantes, 45 M EUR a 4 años) (https://www.actuia.com/en/news/the-confiance-ai-program-reveals-its-first-significant-results-with-6-practical-use-cases/)
- Confiance.ai: una hoja de ruta europea para la industrialización de la IA de confianza, ActuIA, 10 de abril de 2025 (programa concluido en septiembre de 2024) (https://www.actuia.com/actualite/confianceai-une-feuille-de-route-europeenne-pour-lindustrialisation-de-lia-de-confiance/)

---
Ficha del glosario de IA de WYP.agency · https://wyp.agency/es/glosario/ia-de-confianza/ · Última actualización : 2026-11-14
