¿Qué es un sesgo algorítmico? Definición y retos para la empresa

Un sesgo algorítmico puede surgir en tres etapas del ciclo de vida del modelo. Primero, en los datos de entrenamiento: si el corpus histórico refleja decisiones humanas sesgadas (contrataciones pasadas, concesiones de crédito, jurisprudencia), el modelo aprende y reproduce esos sesgos. Segundo, en las decisiones de diseño: el criterio de optimización elegido (precisión global, por ejemplo) puede producir buenos rendimientos en promedio pero errores concentrados en ciertos subgrupos. Tercero, en el contexto de despliegue: un modelo entrenado sobre datos franceses de 2018 utilizado sobre expedientes belgas de 2026 producirá desviaciones no previstas. El sesgo algorítmico no es una característica exótica de los modelos de IA, es su condición por defecto. La cuestión no es si existe, sino qué sesgos existen, con qué amplitud, y con qué consecuencias operativas. La auditoría de los sesgos es desde ya una obligación de hecho para todo despliegue de IA con impacto decisional sobre personas.