Última revisión:
¿Qué son las salvaguardas IA? Definición y retos para la empresa
Las salvaguardas son capas técnicas de control, añadidas en entrada o en salida de un modelo de IA, que detectan y bloquean los comportamientos indeseables: prompts maliciosos, fugas de datos, contenidos prohibidos. Son distintas de la alineación, que actúa sobre el comportamiento por defecto del modelo en sí.
Las salvaguardas (en inglés guardrails) intervienen en tres momentos del flujo aplicativo. Aguas arriba, sobre el prompt del usuario: detección de prompt injection, filtrado de los datos sensibles (números de tarjeta, información médica), rechazo de los temas fuera de perímetro. Durante el tratamiento, sobre la generación en curso: clasificadores en tiempo real que vigilan la salida y pueden interrumpirla. Aguas abajo, sobre la respuesta final: validación del formato, detección de contenidos problemáticos (alucinaciones detectables, sesgos, contenidos jurídicamente arriesgados). Existen varios marcos-herramienta en 2026: NeMo Guardrails (NVIDIA, código abierto), LlamaGuard (Meta), AWS Bedrock Guardrails, así como los clasificadores propietarios de Anthropic y OpenAI. La elección de un marco compromete la arquitectura aplicativa y el coste operativo: cada salvaguarda añade latencia y coste de inferencia. La buena dosificación es de negocio, no técnica: demasiadas salvaguardas matan la productividad, demasiado pocas exponen a incidentes.
Ejemplo concreto
Caso ilustrativo. Una mutua de seguro de salud despliega un chatbot para las preguntas corrientes de sus 80 000 afiliados. Antes de las salvaguardas, el modelo respondía a veces a preguntas médicas personales («tengo este dolor, ¿qué es?»), aventurándose en diagnóstico no autorizado. Se añadieron cuatro capas de salvaguardas: un filtro aguas arriba sobre las preguntas médicas personales, redirigidas a un teleasesor; un clasificador en salida que detecta cualquier lenguaje diagnóstico; una lista de términos prohibidos (nombres de medicamentos); un registro de auditoría con marca temporal de todas las intervenciones. El despliegue superó la auditoría jurídica interna en dos semanas en lugar de las seis previstas inicialmente.
Preguntas frecuentes
¿Cuál es la diferencia entre guardrails y alineación?
La alineación actúa sobre el comportamiento por defecto del propio modelo. Los guardrails son capas de control añadidas alrededor del modelo, a la entrada o a la salida, que detectan y bloquean comportamientos no deseados (prompt malicioso, fuga de datos, contenido prohibido). Son complementarios, no intercambiables.
¿Dónde actúan los guardrails en una aplicación de IA?
En tres momentos. Aguas arriba, sobre el prompt (detección de inyección, filtrado de datos sensibles, rechazo de temas fuera de alcance). Durante la generación (clasificadores en tiempo real que pueden interrumpir la salida). Aguas abajo, sobre la respuesta final (validación de formato, detección de contenidos de riesgo). Cada capa añade latencia y un coste.
¿Qué herramientas de guardrails existen?
Varios marcos en 2026: NeMo Guardrails (NVIDIA, código abierto), LlamaGuard (Meta), AWS Bedrock Guardrails, además de los clasificadores propietarios de Anthropic y OpenAI. La elección condiciona la arquitectura y el coste operativo, y debe documentarse capa por capa en el contrato.
Ver también
Para profundizar
AI Safety Level 3 Deployment Safeguards Report, Anthropic, mayo de 2025
Fuentes
- AI Safety Level 3 Deployment Safeguards Report, Anthropic, mayo de 2025. https://www.anthropic.com/asl3-deployment-safeguards
- NIST AI Risk Management Framework (AI RMF 1.0). https://www.nist.gov/itl/ai-risk-management-framework