Última revisión:
¿Qué es el human in the loop? Definición y obligaciones del AI Act
El human in the loop (humano en el bucle) designa un modo de funcionamiento en el que una persona valida, corrige o rechaza cada decisión de un sistema de IA antes de que produzca efectos. Se distingue del human on the loop, donde la IA actúa sola bajo la vigilancia de un humano capaz de intervenir, y del human out of the loop, donde ningún humano interviene durante el funcionamiento.
La expresión viene de la automática y del ámbito militar; la Unión Europea la fijó para la IA en las directrices éticas de su grupo de expertos de alto nivel (abril de 2019). Ese texto distingue tres niveles: el human in the loop, capacidad de intervención humana en cada ciclo de decisión, señalando que a menudo no es posible ni deseable; el human on the loop, intervención durante el diseño y vigilancia del funcionamiento; el human in command, capacidad de supervisar el conjunto de la actividad del sistema y decidir cuándo y cómo utilizarlo. El reglamento europeo de IA (AI Act) convierte este principio en obligación para los sistemas de alto riesgo. Su artículo 14 exige que estén diseñados para ser supervisados eficazmente por personas físicas. Estas deben poder comprender las capacidades y limitaciones del sistema, ser conscientes del sesgo de automatización (la tendencia a fiarse por defecto de la máquina), interpretar sus resultados, decidir no utilizarlo o descartar su resultado, y detenerlo. Para la identificación biométrica remota, un resultado debe verificarlo al menos dos personas. El artículo 26 obliga a los responsables del despliegue a confiar esta supervisión a personas competentes, formadas y con la autoridad necesaria. Desde el Ómnibus digital (Reglamento (UE) 2026/1744), estas obligaciones se aplican a partir del 2 de diciembre de 2027 para los sistemas de alto riesgo del anexo III (contratación, crédito, educación) y del 2 de agosto de 2028 para los del anexo I.
Ejemplo concreto
Caso ilustrativo (empresa ficticia). Una red de agencias de trabajo temporal de 250 empleados utiliza una herramienta de IA que clasifica las candidaturas recibidas para cada misión. La contratación figura en el anexo III del AI Act: la herramienta es de alto riesgo. Primera organización: los técnicos de selección reciben cada mañana la lista ordenada y llaman a los diez primeros nombres. Nadie consulta a los candidatos descartados: el humano está presente pero no controla nada. Organización revisada: la herramienta propone una clasificación motivada, un técnico examina también cada semana una muestra de perfiles descartados, puede modificar la clasificación y señala las discrepancias; los técnicos están formados en los límites de la herramienta y un responsable puede suspender su uso.
Comparación
| Nivel | Papel del humano | Cuándo usarlo | Ejemplo |
|---|---|---|---|
| Human in the loop | Valida cada decisión antes de su ejecución | Decisiones que comprometen a una persona, un importe o la reputación | Denegación de un crédito, preselección de candidatos, envío de un presupuesto importante |
| Human on the loop | Vigila el funcionamiento, puede intervenir o detener | Volumen alto, riesgo unitario bajo, errores subsanables | Clasificación del correo entrante, respuestas de primer nivel en soporte |
| Human out of the loop | Interviene solo en el diseño y en el control a posteriori | Tareas de bajo riesgo, totalmente reversibles | Archivo automático de documentos internos |
| Human in command | Decide si, cuándo y cómo se usa el sistema | Siempre, a nivel de dirección | Comité que autoriza, suspende o retira una herramienta de IA |
Preguntas frecuentes
Human in the loop: ¿cuál es su definición?
Un sistema de IA funciona «human in the loop» cuando una persona examina y valida cada decisión o acción antes de que se ejecute. La IA propone, el humano decide. Es el nivel de supervisión más alto, adecuado para decisiones que comprometen a personas o importes relevantes.
¿Cuál es la traducción de human in the loop al español?
Se traduce como «humano en el bucle» o «humano en el circuito». La versión española del AI Act habla de «supervisión humana» (artículo 14). También se usa la abreviatura HITL.
¿Cuál es la diferencia entre human in the loop y human on the loop?
In the loop: el humano valida cada decisión antes de su ejecución. On the loop: la IA actúa sola, un humano vigila el funcionamiento y puede intervenir o detenerla. Out of the loop: ninguna intervención humana durante el funcionamiento, solo en el diseño. La elección depende del riesgo y del volumen de decisiones.
¿Es obligatorio el human in the loop?
El AI Act exige una supervisión humana efectiva para los sistemas de IA de alto riesgo (artículo 14), aplicable a partir del 2 de diciembre de 2027 para los del anexo III desde el Ómnibus digital. El texto no obliga a validar cada decisión, sino a poder comprender, descartar, corregir y detener el sistema. El RGPD (artículo 22) regula también las decisiones totalmente automatizadas con efectos jurídicos.
¿Cómo se aplica el human in the loop a los agentes de IA?
Se definen puntos de validación obligatorios: antes de un envío a un cliente, un pago, un borrado de datos o una modificación de un sistema de producción. El agente prepara, el humano aprueba. Para el resto, suele bastar una supervisión on the loop con registro y posibilidad de parada.
Ver también
Para profundizar
Reglamento (UE) 2024/1689 (AI Act), texto oficial en EUR-Lex
Fuentes
- Reglamento (UE) 2024/1689 de inteligencia artificial (AI Act), artículo 14 «Supervisión humana» y artículo 26, Diario Oficial de la UE, 12 de julio de 2024. https://eur-lex.europa.eu/eli/reg/2024/1689/oj
- Reglamento (UE) 2026/1744 (Ómnibus digital de IA), aplazamiento de las obligaciones de alto riesgo, Diario Oficial de la UE, 2026. https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX%3A32026R1744
- Ethics Guidelines for Trustworthy AI, Grupo de expertos de alto nivel sobre IA (AI HLEG), Comisión Europea, abril de 2019. https://www.europarl.europa.eu/cmsdata/196377/AI%20HLEG_Ethics%20Guidelines%20for%20Trustworthy%20AI.pdf