# ¿Qué es un sesgo algorítmico? Definición y retos para la empresa > Un sesgo algorítmico es una desviación sistemática de un modelo de IA, heredada de los datos de entrenamiento, de las decisiones de diseño o del contexto de despliegue, que produce decisiones inequitativas o erróneas en detrimento de un grupo de población o de un tipo de caso. ## Definición Un sesgo algorítmico puede surgir en tres etapas del ciclo de vida del modelo. Primero, en los datos de entrenamiento: si el corpus histórico refleja decisiones humanas sesgadas (contrataciones pasadas, concesiones de crédito, jurisprudencia), el modelo aprende y reproduce esos sesgos. Segundo, en las decisiones de diseño: el criterio de optimización elegido (precisión global, por ejemplo) puede producir buenos rendimientos en promedio pero errores concentrados en ciertos subgrupos. Tercero, en el contexto de despliegue: un modelo entrenado sobre datos franceses de 2018 utilizado sobre expedientes belgas de 2026 producirá desviaciones no previstas. El sesgo algorítmico no es una característica exótica de los modelos de IA, es su condición por defecto. La cuestión no es si existe, sino qué sesgos existen, con qué amplitud, y con qué consecuencias operativas. La auditoría de los sesgos es una buena práctica esperada para todo despliegue de IA con impacto decisional sobre personas. ## Ejemplo El caso de las ayudas para el cuidado infantil en los Países Bajos, conocido como *toeslagenaffaire*, es uno de los casos escuela europeos más documentados. A partir de 2013, la administración fiscal neerlandesa utilizó un sistema algorítmico para detectar los fraudes a las ayudas para el cuidado infantil. El sistema utilizaba la nacionalidad como factor de riesgo: las personas de nacionalidad no neerlandesa recibían una puntuación más alta. Resultado: decenas de miles de padres, afectados de forma desproporcionada cuando procedían de la inmigración o de hogares con bajos ingresos, fueron falsamente acusados de fraude y obligados a reembolsar, a veces decenas de miles de euros. El caso llevó a la dimisión del gobierno Rutte III en enero de 2021. Fuente: informe Amnistía Internacional *Xenophobic Machines*, octubre de 2021. ## Para un directivo La trampa clásica consiste en considerar el sesgo algorítmico como un problema técnico a resolver por los científicos de datos, aisladamente de los negocios y de la gobernanza. Es un error de encuadre. Tres mecanismos lo convierten en un tema de dirección general. Primero, un sesgo algorítmico no detectado que se manifiesta a gran escala (contratación, scoring crediticio, tarificación de seguros) genera un riesgo jurídico y reputacional directo, que ninguna auditoría técnica sola puede anticipar sin el conocimiento del contexto de negocio. Segundo, la ausencia de auditoría de sesgos formalizada será difícil de defender: para los sistemas de alto riesgo, el AI Act europeo exigirá un examen de los posibles sesgos en los datos (artículo 10) y una documentación de las medidas adoptadas. Estas obligaciones se aplicarán a partir del 2 de diciembre de 2027, fecha fijada por el Ómnibus digital de 2026. Conviene prepararse desde ahora. Tercero, el sesgo algorítmico se aloja a menudo en la manera en que el modelo es utilizado, no en el modelo en sí. Una auditoría debe por tanto incluir los procesos de decisión aguas abajo, no solo el código. ## Preguntas frecuentes **¿Qué es un sesgo algorítmico?** Una desviación sistemática de un modelo de IA, heredada de los datos de entrenamiento, de las decisiones de diseño o del contexto de despliegue, que produce decisiones inequitativas o erróneas en detrimento de un grupo o de un tipo de caso. No es una anomalía exótica: es la condición por defecto de los modelos. La cuestión no es si existe, sino qué sesgos existen, con qué amplitud y con qué consecuencias operativas. **¿En qué etapas puede aparecer un sesgo?** En tres momentos del ciclo de vida del modelo. En los datos de entrenamiento, cuando el corpus histórico refleja decisiones humanas sesgadas (contrataciones, créditos, jurisprudencia). En las decisiones de diseño, cuando el criterio de optimización elegido rinde bien en promedio pero concentra los errores en ciertos subgrupos. En el contexto de despliegue, cuando un modelo entrenado con datos de un país y una época se utiliza en otros. **¿Por qué es un tema de dirección general y no solo técnico?** Porque un sesgo no detectado que se manifiesta a gran escala (contratación, scoring crediticio, tarificación de seguros) genera un riesgo jurídico y reputacional directo que ninguna auditoría puramente técnica puede anticipar sin el conocimiento del contexto de negocio. El sesgo se aloja a menudo en la manera en que se usa el modelo, no en el propio código. **¿Qué prevé el AI Act sobre los sesgos?** Para los sistemas de alto riesgo, el AI Act europeo exigirá un examen de los posibles sesgos en los datos (artículo 10) y una documentación de las medidas adoptadas. Estas obligaciones se aplicarán a partir del 2 de diciembre de 2027, fecha fijada por el Ómnibus digital de 2026. La ausencia de una auditoría de sesgos formalizada será difícil de defender. **¿Basta con auditar el modelo?** No. El sesgo se aloja a menudo en el uso del modelo, no solo en el modelo. Una auditoría debe por tanto incluir los procesos de decisión aguas abajo, no solo el código. La auditoría de sesgos es una buena práctica esperada para todo despliegue con impacto decisional sobre personas. ## Para seguir - [Alineación](https://wyp.agency/es/glosario/alineacion/) - [Salvaguardas](https://wyp.agency/es/glosario/salvaguardas/) - [AI Act](https://wyp.agency/es/glosario/ai-act/) - [RGPD e IA](https://wyp.agency/es/glosario/rgpd-ia/) - [Entrenamiento](https://wyp.agency/es/glosario/entrenamiento/) - [Sycophancy (complacencia de la IA)](https://wyp.agency/es/glosario/complacencia-ia/) - [ISO/IEC 42001](https://wyp.agency/es/glosario/iso-42001/) - [Visión por computadora (computer vision)](https://wyp.agency/es/glosario/vision-por-computadora/) - [IA explicable (XAI)](https://wyp.agency/es/glosario/ia-explicable/) - [Machine learning (aprendizaje automático)](https://wyp.agency/es/glosario/aprendizaje-automatico/) ## Fuentes - Xenophobic Machines: Discrimination through unregulated use of algorithms in the Dutch childcare benefits scandal, Amnistía Internacional, octubre de 2021 (https://www.amnesty.org/en/documents/eur35/4686/2021/en/) - AI Incident Database, Incident 101: Dutch Families Wrongfully Accused of Tax Fraud Due to Discriminatory Algorithm (https://incidentdatabase.ai/cite/101/) - Reglamento (UE) 2026/1744 (Ómnibus digital sobre IA), EUR-Lex (https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX%3A32026R1744) --- Ficha del glosario de IA de WYP.agency · https://wyp.agency/es/glosario/sesgo-algoritmico/ · Última actualización : 2026-10-14