# Qu'est-ce que les garde-fous IA ? Définition et enjeux pour l'entreprise > Les garde-fous sont des couches techniques de contrôle, ajoutées en entrée ou en sortie d'un modèle d'IA, qui détectent et bloquent les comportements indésirables : prompts malveillants, fuites de données, contenus interdits. Ils sont distincts de l'alignement, qui agit sur le comportement par défaut du modèle lui-même. ## Définition Les garde-fous (en anglais *guardrails*) interviennent à trois moments du flux applicatif. En amont, sur le prompt utilisateur : détection de prompt injection, filtrage des données sensibles (numéros de carte, informations médicales), refus des sujets hors-périmètre. Pendant le traitement, sur la génération en cours : classifieurs en temps réel qui surveillent la sortie et peuvent l'interrompre. En aval, sur la réponse finale : validation du format, détection de contenus problématiques (hallucinations détectables, biais, contenus juridiquement risqués). Plusieurs outils-cadres existent en 2026 : NeMo Guardrails (NVIDIA, open source), LlamaGuard (Meta), AWS Bedrock Guardrails, ainsi que les classifieurs propriétaires d'Anthropic et OpenAI. Le choix d'un cadre engage l'architecture applicative et le coût opérationnel : chaque garde-fou ajoute de la latence et un coût d'inférence. Le bon dosage est métier, pas technique : trop de garde-fous tue la productivité, trop peu expose à des incidents. ## Exemple Cas illustratif. Une mutuelle d'assurance santé déploie un chatbot pour les questions courantes de ses 80 000 adhérents. Avant garde-fous, le modèle répondait parfois à des questions médicales personnelles (« j'ai cette douleur, qu'est-ce que c'est ? »), s'aventurant dans du diagnostic non autorisé. Quatre couches de garde-fous ont été ajoutées : un filtre en amont sur les questions médicales personnelles, redirigées vers un téléconseiller ; un classifieur en sortie détectant tout langage diagnostique ; une liste de termes interdits (noms de médicaments) ; un journal d'audit horodaté de toutes les interventions. Le déploiement a passé l'audit interne juridique en deux semaines au lieu des six initialement prévues. ## Pour un dirigeant Cinq clauses à exiger dans tout contrat avec un prestataire ou un éditeur IA qui intègre des garde-fous dans votre déploiement. Premièrement, la documentation exhaustive des garde-fous activés, par couche (entrée, traitement, sortie), avec leur logique de déclenchement. Sans cette documentation, vous ne pourrez pas auditer ni faire évoluer le système. Deuxièmement, le droit d'auditer les journaux d'activation des garde-fous, avec rétention minimale de 12 mois. Troisièmement, l'obligation d'information dans les 72 heures en cas d'incident de contournement détecté. Quatrièmement, la transparence sur les outils-cadres utilisés (NeMo, LlamaGuard, propriétaire) et leur version. Cinquièmement, la possibilité d'ajouter vos propres garde-fous métier sans réécriture complète, via une API ouverte. L'absence de l'une de ces clauses doit déclencher une renégociation avant signature. ## Questions fréquentes **Quelle différence entre garde-fous et alignement ?** L'alignement agit sur le comportement par défaut du modèle lui-même. Les garde-fous sont des couches de contrôle ajoutées autour du modèle, en entrée ou en sortie, qui détectent et bloquent les comportements indésirables (prompt malveillant, fuite de données, contenu interdit). Les deux sont complémentaires, pas interchangeables. **Où interviennent les garde-fous dans une application IA ?** À trois moments. En amont, sur le prompt (détection d'injection, filtrage des données sensibles, refus du hors-périmètre). Pendant la génération (classifieurs en temps réel qui peuvent interrompre la sortie). En aval, sur la réponse finale (validation du format, détection de contenus risqués). Chaque couche ajoute de la latence et un coût. **Quels outils de garde-fous existent ?** Plusieurs cadres en 2026 : NeMo Guardrails (NVIDIA, open source), LlamaGuard (Meta), AWS Bedrock Guardrails, ainsi que les classifieurs propriétaires d'Anthropic et d'OpenAI. Le choix engage l'architecture et le coût opérationnel, à documenter couche par couche dans le contrat. ## À lire aussi - [Alignement](https://wyp.agency/glossaire/alignement/) - [Biais algorithmique](https://wyp.agency/glossaire/biais-algorithmique/) - [Red teaming](https://wyp.agency/glossaire/red-teaming/) - [Hallucination](https://wyp.agency/glossaire/hallucination/) - [RGPD et IA](https://wyp.agency/glossaire/rgpd-ia/) - [Déléguer aux agents IA](https://wyp.agency/glossaire/deleguer-aux-agents-ia/) - [Human in the loop (humain dans la boucle)](https://wyp.agency/glossaire/human-in-the-loop/) - [ISO/IEC 42001](https://wyp.agency/glossaire/iso-42001/) - [Injection de prompt (prompt injection)](https://wyp.agency/glossaire/injection-de-prompt/) - [IA responsable](https://wyp.agency/glossaire/ia-responsable/) ## Sources - AI Safety Level 3 Deployment Safeguards Report, Anthropic, mai 2025 (https://www.anthropic.com/asl3-deployment-safeguards) - NIST AI Risk Management Framework (AI RMF 1.0) (https://www.nist.gov/itl/ai-risk-management-framework) --- Fiche du glossaire IA de WYP.agency · https://wyp.agency/glossaire/garde-fous/ · Dernière mise à jour : 2026-10-14