Nouveau · Présidentielle 2027 : ce que les candidats proposent sur l'IA, citations sourcées. Explorer l'observatoire →

Dernière revue :

Qu'est-ce que l'IA de confiance ? Définition, 7 exigences et ce qu'un dirigeant peut exiger

L'IA de confiance (trustworthy AI) est une IA à la fois licite, éthique et robuste, qui satisfait sept exigences définies par le groupe d'experts de haut niveau de la Commission européenne le 8 avril 2019 : action et contrôle humains, robustesse technique et sécurité, vie privée et gouvernance des données, transparence, diversité et équité, bien-être sociétal et environnemental, responsabilité. L'AI Act en reprend l'esprit.

L'expression vient des lignes directrices en matière d'éthique pour une IA digne de confiance, publiées le 8 avril 2019 par le groupe d'experts de haut niveau sur l'IA, nommé par la Commission européenne. Une IA de confiance doit être licite (conforme au droit), éthique (conforme aux valeurs) et robuste (techniquement et socialement). Elle répond à sept exigences : action et contrôle humains ; robustesse technique et sécurité ; respect de la vie privée et gouvernance des données ; transparence ; diversité, non-discrimination et équité ; bien-être sociétal et environnemental ; responsabilité. Le texte n'est pas contraignant. Il s'accompagne d'une liste d'évaluation, l'ALTAI, publiée le 17 juillet 2020 après un pilote de plus de 350 participants. L'AI Act (règlement UE 2024/1689) en a fait son fil conducteur : son article 1 vise à promouvoir une IA « axée sur l'humain et digne de confiance » et son considérant 27 reprend les sept principes comme base non contraignante. En France, le programme Confiance.ai, lancé en 2021 dans le cadre d'un Grand Défi de l'État et piloté par l'IRT SystemX, a réuni treize partenaires structurants (Airbus, Thales, Renault, Safran, Valeo, le CEA, Inria, etc.) autour d'un budget de 45 millions d'euros sur quatre ans, pour industrialiser l'IA de confiance dans les systèmes critiques. Il s'est achevé en septembre 2024 ; une fondation européenne a été annoncée pour prolonger ses outils. Ne confondez pas avec l'IA responsable, qui vise la mise en œuvre et la redevabilité : voir le tableau.

Exemple concret

Cas illustratif : un équipementier de 400 salariés choisit un fournisseur d'IA pour l'inspection visuelle de ses soudures. Plutôt que de se fier à la plaquette commerciale, la direction qualité demande au fournisseur de documenter chacune des sept exigences : qui supervise les décisions et peut les corriger, comment la robustesse a été testée (lumière, poussière, pièces nouvelles), d'où viennent les données d'entraînement, comment une décision est expliquée à un opérateur, quels écarts de performance existent selon les lignes de production, et qui répond en cas d'erreur. Deux réponses sont jugées insuffisantes : le fournisseur les complète avant la signature. Le dossier devient aussi la base du suivi annuel du contrat.

Comparaison

IA de confiance, IA responsable, IA éthique : trois expressions, trois angles
IA de confianceIA responsableIA éthique
Référence principaleLignes directrices du groupe d'experts de la Commission (2019)Principes de l'OCDE sur l'IA (2019, révisés en 2024)Valeurs et chartes propres à chaque organisation
ContenuTrois composantes (licite, éthique, robuste), sept exigencesCinq principes, centrés sur la mise en œuvrePas de liste commune
Question poséePeut-on se fier à ce système ?Qui répond de quoi, avec quelles preuves ?Ce que l'on fait est-il juste ?
Statut juridiqueNon contraignant ; esprit repris par l'AI ActNon contraignant ; ISO 42001 pour l'organisationAucun
Outil associéALTAI (2020)Registre des usages, ISO/IEC 42001Charte, comité d'éthique

Questions fréquentes

C'est quoi l'IA de confiance ?

L'IA de confiance (trustworthy AI) est une IA licite, éthique et robuste, qui respecte sept exigences définies par le groupe d'experts de haut niveau de la Commission européenne en avril 2019. Elle sert de référence à l'AI Act, mais le terme n'est pas défini comme tel dans la loi.

Quelle est la définition de l'IA de confiance ?

Selon les lignes directrices européennes de 2019, c'est une IA qui est à la fois licite, éthique et robuste, et qui répond à sept exigences : action et contrôle humains, robustesse et sécurité, vie privée et données, transparence, diversité et équité, bien-être sociétal et environnemental, responsabilité.

Quelles sont les 7 exigences de l'IA de confiance ?

1. Action et contrôle humains. 2. Robustesse technique et sécurité. 3. Respect de la vie privée et gouvernance des données. 4. Transparence. 5. Diversité, non-discrimination et équité. 6. Bien-être sociétal et environnemental. 7. Responsabilité (accountability).

Quelle différence entre IA de confiance et IA responsable ?

L'IA de confiance s'appuie sur un référentiel européen précis : trois composantes et sept exigences. L'IA responsable désigne plutôt la démarche de l'organisation (principes de l'OCDE, gouvernance, preuves) pour concevoir, acheter et utiliser l'IA. La première décrit le résultat attendu, la seconde la manière d'y arriver.

L'IA de confiance est-elle obligatoire ?

Les sept exigences de 2019 sont non contraignantes. L'AI Act en reprend l'esprit et en rend une partie obligatoire selon le niveau de risque : interdictions, transparence, exigences des systèmes à haut risque. Hors de ces cas, la démarche reste volontaire.

Qu'est-ce que Confiance.ai ?

C'est un programme français de recherche et d'ingénierie lancé en 2021, piloté par l'IRT SystemX, financé par France 2030 (45 millions d'euros sur quatre ans selon ses lancements) et réunissant industriels et laboratoires. Il visait l'IA de confiance dans les systèmes critiques et s'est achevé en septembre 2024.

Comment savoir si une IA est digne de confiance ?

Aucun label unique ne le garantit. On demande des preuves aux sept exigences : supervision humaine, tests de robustesse, origine des données, explications, mesure des biais, responsable désigné. La liste d'évaluation ALTAI de la Commission (2020) sert de trame d'autoévaluation.

Qu'est-ce que l'ALTAI ?

L'ALTAI (Assessment List for Trustworthy AI) est une liste d'autoévaluation publiée le 17 juillet 2020 par le groupe d'experts de haut niveau. Elle traduit les sept exigences en questions concrètes pour les développeurs et les déployeurs d'IA.

À voir aussi

Pour aller plus loin

Ethics Guidelines for Trustworthy AI, Commission européenne, 8 avril 2019 (ressource externe)

Sources

  1. Ethics Guidelines for Trustworthy AI, High-Level Expert Group on AI, Commission européenne, 8 avril 2019. https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai (consulté le 2026-11-14)
  2. Assessment List for Trustworthy AI (ALTAI), Commission européenne, 17 juillet 2020. https://digital-strategy.ec.europa.eu/en/library/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment (consulté le 2026-11-14)
  3. Règlement (UE) 2024/1689 (AI Act), article 1 et considérant 27. https://artificialintelligenceact.eu/article/1/ (consulté le 2026-11-14)
  4. AI Act, considérant 27 (sept principes éthiques non contraignants). https://artificialintelligenceact.eu/recital/27/ (consulté le 2026-11-14)
  5. The Confiance.ai program reveals its first significant results, ActuIA, 6 octobre 2021 (13 partenaires structurants, 45 M€ sur 4 ans). https://www.actuia.com/en/news/the-confiance-ai-program-reveals-its-first-significant-results-with-6-practical-use-cases/ (consulté le 2026-11-14)
  6. Confiance.ai : une feuille de route européenne pour l'industrialisation de l'IA de confiance, ActuIA, 10 avril 2025 (programme achevé en septembre 2024). https://www.actuia.com/actualite/confianceai-une-feuille-de-route-europeenne-pour-lindustrialisation-de-lia-de-confiance/ (consulté le 2026-11-14)

Méthode éditorialeJournal des corrections

← Retour au glossaire

Adresse copiée