Dernière revue :
Qu'est-ce que le human in the loop ? Définition et obligations de l'AI Act
Le human in the loop (humain dans la boucle) désigne un mode de fonctionnement où une personne valide, corrige ou rejette chaque décision d'un système d'IA avant qu'elle ne produise ses effets. Il se distingue du human on the loop, où l'IA agit seule sous la surveillance d'un humain capable d'intervenir, et du human out of the loop, où aucun humain n'intervient pendant le fonctionnement.
L'expression vient de l'automatisme et du militaire ; l'Union européenne l'a fixée pour l'IA dans les lignes directrices éthiques de son groupe d'experts de haut niveau (avril 2019). Ce texte distingue trois niveaux : le human in the loop, capacité d'intervention humaine dans chaque cycle de décision, en notant que ce n'est souvent ni possible ni souhaitable ; le human on the loop, intervention pendant la conception et surveillance du fonctionnement ; le human in command, capacité à superviser l'ensemble de l'activité du système et à décider quand et comment l'utiliser. Le règlement européen sur l'IA (AI Act) transforme ce principe en obligation pour les systèmes à haut risque. Son article 14 exige qu'ils soient conçus pour être supervisés efficacement par des personnes physiques. Celles-ci doivent pouvoir comprendre les capacités et limites du système, rester conscientes du biais d'automatisation (la tendance à se fier par défaut à la machine), interpréter ses sorties, décider de ne pas l'utiliser ou d'écarter son résultat, et l'arrêter. Pour l'identification biométrique à distance, un résultat doit être vérifié par au moins deux personnes. L'article 26 impose aux déployeurs de confier cette supervision à des personnes compétentes, formées et dotées de l'autorité nécessaire. Depuis l'Omnibus numérique (règlement (UE) 2026/1744), ces obligations s'appliquent au 2 décembre 2027 pour les systèmes à haut risque de l'annexe III (recrutement, crédit, éducation) et au 2 août 2028 pour ceux de l'annexe I.
Exemple concret
Cas illustratif (entreprise fictive). Un réseau d'agences d'intérim de 250 salariés utilise un outil d'IA qui classe les candidatures reçues pour chaque mission. Le recrutement figure à l'annexe III de l'AI Act : l'outil relève du haut risque. Première organisation : les chargés de recrutement reçoivent chaque matin la liste triée et appellent les dix premiers noms. Personne ne consulte les candidats écartés : l'humain est présent mais ne contrôle rien. Organisation revue : l'outil propose un classement motivé, un chargé examine aussi un échantillon des profils écartés chaque semaine, peut modifier le classement et signale les écarts ; les chargés sont formés aux limites de l'outil et un responsable peut suspendre son usage.
Comparaison
| Niveau | Rôle de l'humain | Quand l'utiliser | Exemple |
|---|---|---|---|
| Human in the loop | Valide chaque décision avant exécution | Décisions qui engagent une personne, un montant ou la réputation | Refus d'un crédit, présélection de candidats, envoi d'un devis important |
| Human on the loop | Surveille le fonctionnement, peut intervenir ou arrêter | Volume élevé, enjeu unitaire faible, erreurs rattrapables | Tri du courrier entrant, réponses de premier niveau au support |
| Human out of the loop | Intervient seulement à la conception et au contrôle a posteriori | Tâches à faible risque, entièrement réversibles | Classement automatique de documents internes |
| Human in command | Décide si, quand et comment le système est utilisé | Toujours, au niveau de la direction | Comité qui autorise, suspend ou retire un outil d'IA |
Questions fréquentes
Human in the loop : quelle définition ?
Un système d'IA fonctionne « human in the loop » quand une personne examine et valide chaque décision ou action avant qu'elle ne soit exécutée. L'IA propose, l'humain dispose. C'est le niveau de supervision le plus élevé, adapté aux décisions qui engagent des personnes ou des montants importants.
Quelle est la traduction de human in the loop en français ?
On traduit par « humain dans la boucle ». La version française de l'AI Act parle de « contrôle humain » (article 14). On rencontre aussi l'abréviation HITL.
Quelle est la différence entre human in the loop et human on the loop ?
In the loop : l'humain valide chaque décision avant exécution. On the loop : l'IA agit seule, un humain surveille le fonctionnement et peut intervenir ou l'arrêter. Out of the loop : aucune intervention humaine pendant le fonctionnement, seulement à la conception. Le choix dépend de l'enjeu et du volume des décisions.
Le human in the loop est-il obligatoire ?
L'AI Act impose un contrôle humain effectif pour les systèmes d'IA à haut risque (article 14), applicable au 2 décembre 2027 pour ceux de l'annexe III depuis l'Omnibus numérique. Le texte n'impose pas de valider chaque décision, mais de pouvoir comprendre, écarter, corriger et arrêter le système. Le RGPD (article 22) encadre aussi les décisions entièrement automatisées produisant des effets juridiques.
Comment appliquer le human in the loop aux agents IA ?
On définit des points de validation obligatoires : avant un envoi à un client, un paiement, une suppression de données ou une modification d'un système de production. L'agent prépare, l'humain approuve. Pour le reste, une supervision on the loop avec journalisation et possibilité d'arrêt suffit souvent.
À voir aussi
Pour aller plus loin
Règlement (UE) 2024/1689 (AI Act), texte officiel sur EUR-Lex
Sources
- Règlement (UE) 2024/1689 sur l'intelligence artificielle (AI Act), article 14 « Contrôle humain » et article 26, Journal officiel de l'UE, 12 juillet 2024. https://eur-lex.europa.eu/eli/reg/2024/1689/oj
- Règlement (UE) 2026/1744 (Omnibus numérique IA), report des obligations haut risque, Journal officiel de l'UE, 2026. https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX%3A32026R1744
- Ethics Guidelines for Trustworthy AI, groupe d'experts de haut niveau sur l'IA (AI HLEG), Commission européenne, avril 2019. https://www.europarl.europa.eu/cmsdata/196377/AI%20HLEG_Ethics%20Guidelines%20for%20Trustworthy%20AI.pdf