# Qu'est-ce qu'un biais algorithmique ? Définition et enjeux pour l'entreprise > Un biais algorithmique est une déviation systématique d'un modèle d'IA, héritée des données d'entraînement, des choix de conception ou du contexte de déploiement, qui produit des décisions inéquitables ou erronées au détriment d'un groupe de population ou d'un type de cas. ## Définition Un biais algorithmique peut surgir à trois étapes du cycle de vie du modèle. Premièrement, dans les données d'entraînement : si le corpus historique reflète des décisions humaines biaisées (recrutements passés, octrois de crédit, jurisprudence), le modèle apprend et reproduit ces biais. Deuxièmement, dans les choix de conception : le critère d'optimisation choisi (précision globale, par exemple) peut produire de bonnes performances en moyenne mais des erreurs concentrées sur certains sous-groupes. Troisièmement, dans le contexte de déploiement : un modèle entraîné sur des données françaises de 2018 utilisé sur des dossiers belges de 2026 produira des écarts non prévus. Le biais algorithmique n'est pas une caractéristique exotique des modèles d'IA, c'est leur condition par défaut. La question n'est pas s'il existe, mais quels biais existent, dans quelle ampleur, et avec quelles conséquences opérationnelles. L'audit des biais est une bonne pratique attendue pour tout déploiement IA à impact décisionnel sur des personnes. ## Exemple L'affaire des allocations familiales aux Pays-Bas, dite *toeslagenaffaire*, est l'un des cas-école européens les plus documentés. À partir de 2013, l'administration fiscale néerlandaise a utilisé un système algorithmique pour détecter les fraudes aux allocations de garde d'enfants. Le système utilisait la nationalité comme facteur de risque : les personnes de nationalité non néerlandaise recevaient un score plus élevé. Résultat : des dizaines de milliers de parents, touchés de façon disproportionnée lorsqu'ils étaient issus de l'immigration ou de foyers à faibles revenus, ont été faussement accusés de fraude et contraints de rembourser, parfois plusieurs dizaines de milliers d'euros. L'affaire a conduit à la démission du gouvernement Rutte III en janvier 2021. Source : rapport Amnesty International *Xenophobic Machines*, octobre 2021. ## Pour un dirigeant Le piège classique consiste à considérer le biais algorithmique comme un problème technique à résoudre par les data scientists, isolément des métiers et de la gouvernance. C'est une erreur de cadrage. Trois mécanismes en font un sujet de direction générale. Premièrement, un biais algorithmique non détecté qui se manifeste à grande échelle (recrutement, scoring crédit, tarification assurance) génère un risque juridique et réputationnel direct, qu'aucun audit technique seul ne peut anticiper sans la connaissance du contexte métier. Deuxièmement, l'absence d'audit de biais formalisé deviendra difficile à défendre : l'AI Act européen exigera, pour les systèmes à haut risque, un examen des biais possibles dans les données (article 10) et une documentation des mesures prises. Ces obligations s'appliqueront à partir du 2 décembre 2027, date fixée par l'Omnibus numérique de 2026. Mieux vaut s'y préparer dès maintenant. Troisièmement, le biais algorithmique se loge souvent dans la manière dont le modèle est utilisé, pas dans le modèle lui-même. Un audit doit donc inclure les processus de décision en aval, pas seulement le code. ## Questions fréquentes **Qu'est-ce qu'un biais algorithmique ?** C'est une déviation systématique d'un modèle d'IA, héritée des données d'entraînement, des choix de conception ou du contexte de déploiement, qui produit des décisions inéquitables ou erronées au détriment d'un groupe ou d'un type de cas. Ce n'est pas une anomalie exotique : c'est la condition par défaut des modèles. La vraie question n'est pas de savoir s'il existe, mais lesquels existent, avec quelle ampleur et quelles conséquences opérationnelles. **À quelles étapes un biais peut-il apparaître ?** À trois moments du cycle de vie du modèle. Dans les données d'entraînement, quand le corpus historique reflète des décisions humaines biaisées (recrutements, crédits, jurisprudence). Dans les choix de conception, quand le critère d'optimisation retenu donne de bonnes performances en moyenne mais concentre les erreurs sur certains sous-groupes. Dans le contexte de déploiement, quand un modèle entraîné sur les données d'un pays et d'une époque est utilisé ailleurs. **Pourquoi est-ce un sujet de direction générale et pas seulement technique ?** Parce qu'un biais non détecté qui se manifeste à grande échelle (recrutement, scoring crédit, tarification assurance) génère un risque juridique et réputationnel direct, qu'aucun audit purement technique ne peut anticiper sans la connaissance du contexte métier. Le biais se loge d'ailleurs souvent dans la manière dont le modèle est utilisé, pas dans le code lui-même. **Que prévoit l'AI Act sur les biais ?** Pour les systèmes à haut risque, l'AI Act européen exigera un examen des biais possibles dans les données (article 10) et une documentation des mesures prises. Ces obligations s'appliqueront à partir du 2 décembre 2027, date fixée par l'Omnibus numérique de 2026. L'absence d'audit de biais formalisé deviendra difficile à défendre. **Un audit du modèle suffit-il ?** Non. Le biais se loge souvent dans l'usage du modèle, pas uniquement dans le modèle. Un audit doit donc inclure les processus de décision en aval, pas seulement le code. L'audit de biais est une bonne pratique attendue pour tout déploiement à impact décisionnel sur des personnes. ## À lire aussi - [Alignement](https://wyp.agency/glossaire/alignement/) - [Garde-fous](https://wyp.agency/glossaire/garde-fous/) - [AI Act](https://wyp.agency/glossaire/ai-act/) - [RGPD et IA](https://wyp.agency/glossaire/rgpd-ia/) - [Entraînement](https://wyp.agency/glossaire/entrainement/) - [Sycophancy (complaisance des IA)](https://wyp.agency/glossaire/sycophancy/) - [ISO/IEC 42001](https://wyp.agency/glossaire/iso-42001/) - [Vision par ordinateur (computer vision)](https://wyp.agency/glossaire/vision-par-ordinateur/) - [IA explicable (XAI)](https://wyp.agency/glossaire/ia-explicable/) - [Machine learning (apprentissage automatique)](https://wyp.agency/glossaire/machine-learning/) ## Sources - Xenophobic Machines: Discrimination through unregulated use of algorithms in the Dutch childcare benefits scandal, Amnesty International, octobre 2021 (https://www.amnesty.org/en/documents/eur35/4686/2021/en/) - AI Incident Database, Incident 101: Dutch Families Wrongfully Accused of Tax Fraud Due to Discriminatory Algorithm (https://incidentdatabase.ai/cite/101/) - Règlement (UE) 2026/1744 (Omnibus numérique sur l'IA), EUR-Lex (https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX%3A32026R1744) --- Fiche du glossaire IA de WYP.agency · https://wyp.agency/glossaire/biais-algorithmique/ · Dernière mise à jour : 2026-10-14