Riesgos y gobernanza
AI Act, RGPD, sesgo algorítmico, alucinaciones, salvaguardas, soberanía digital. El vocabulario para distinguir la experimentación de la producción responsable.
- AI ActEl AI Act es el reglamento europeo 2024/1689, primer marco jurídico mundial que clasifica los sistemas de IA por nivel de riesgo y que impone obligaciones diferenciadas: prohibición para los usos inaceptables, exigencias estrictas para los sistemas de alto riesgo, transparencia para los demás.
- AlineaciónLa alineación es el conjunto de técnicas que buscan orientar el comportamiento de un modelo de IA hacia los objetivos y los valores humanos de su usuario o de su editor. Transforma un modelo bruto, capaz de producir cualquier cosa, en un asistente útil, honesto y que rechaza las solicitudes contrarias a las reglas fijadas.
- Barómetro Shadow AI 2026En 2026, el uso no encuadrado de la IA generativa ya no es un punto ciego: es la norma. Dos tercios de los profesionales usan en el trabajo herramientas que creen prohibidas — y vuelcan en ellas correos, datos de clientes y documentos financieros.
- Datos de entrenamientoLos datos de entrenamiento son el conjunto de textos, imágenes, códigos y otros contenidos utilizados para entrenar un modelo de IA. Su composición determina lo que el modelo sabe, lo que ignora, sus sesgos y sus riesgos jurídicos. Una parte mayor del contencioso IA actual se refiere a su procedencia y a su licitud.
- Huella de carbono de la IALa huella de carbono de la IA es el conjunto de las emisiones de gases de efecto invernadero ligadas a su ciclo de vida: entrenamiento de los modelos, fabricación de los componentes, funcionamiento de los centros de datos e inferencia en uso. Se está convirtiendo en una partida de consumo significativa a escala mundial.
- Red teamingEl red teaming, tomado de la ciberseguridad, es la práctica de probar un sistema de IA simulando intentos de uso adverso: rodeo de las reglas, extracción de datos sensibles, generación de contenidos prohibidos. Busca identificar las vulnerabilidades antes de que un actor malicioso las explote en producción.
- RGPD e IAEl RGPD encuadra todo tratamiento de datos personales por un sistema de IA operado en Europa o que conciernen a europeos. Cuatro obligaciones se aplican con prioridad: finalidad explícita, minimización de los datos, derechos de acceso y de oposición, y estudio de impacto para los tratamientos de riesgo elevado.
- SalvaguardasLas salvaguardas son capas técnicas de control, añadidas en entrada o en salida de un modelo de IA, que detectan y bloquean los comportamientos indeseables: prompts maliciosos, fugas de datos, contenidos prohibidos. Son distintas de la alineación, que actúa sobre el comportamiento por defecto del modelo en sí.
- Sesgo algorítmicoUn sesgo algorítmico es una desviación sistemática de un modelo de IA, heredada de los datos de entrenamiento, de las decisiones de diseño o del contexto de despliegue, que produce decisiones inequitativas o erróneas en detrimento de un grupo de población o de un tipo de caso.
- Soberanía digitalLa soberanía digital es la capacidad de una empresa o de un Estado para dominar sus datos, sus infraestructuras y sus herramientas de IA, independientemente de jurisdicciones extranjeras. Condiciona la confidencialidad, la conformidad reglamentaria y la resiliencia ante rupturas de acceso dictadas por decisiones políticas externas.