Risques et gouvernance
AI Act, RGPD, biais algorithmique, hallucinations, garde-fous, souveraineté numérique. Le vocabulaire pour distinguer l'expérimentation de la production responsable.
- AI ActL'AI Act est le règlement européen 2024/1689, premier cadre juridique mondial à classifier les systèmes d'IA par niveau de risque et à imposer des obligations différenciées : interdiction pour les usages inacceptables, exigences strictes pour les systèmes à haut risque, transparence pour les autres.
- AlignementL'alignement est l'ensemble des techniques visant à orienter le comportement d'un modèle d'IA vers les objectifs et les valeurs humaines de son utilisateur ou de son éditeur. Il transforme un modèle brut, capable de tout produire, en un assistant utile, honnête et qui refuse les demandes contraires aux règles fixées.
- Biais algorithmiqueUn biais algorithmique est une déviation systématique d'un modèle d'IA, héritée des données d'entraînement, des choix de conception ou du contexte de déploiement, qui produit des décisions inéquitables ou erronées au détriment d'un groupe de population ou d'un type de cas.
- Données d'entraînementLes données d'entraînement sont l'ensemble des textes, images, codes et autres contenus utilisés pour entraîner un modèle d'IA. Leur composition détermine ce que le modèle sait, ce qu'il ignore, ses biais et ses risques juridiques. Une partie majeure du contentieux IA actuel porte sur leur provenance et leur licéité.
- Empreinte carbone de l'IAL'empreinte carbone de l'IA est l'ensemble des émissions de gaz à effet de serre liées à son cycle de vie : entraînement des modèles, fabrication des composants, fonctionnement des data centres et inférence à l'usage. Elle devient un poste de consommation significatif à l'échelle mondiale.
- Garde-fousLes garde-fous sont des couches techniques de contrôle, ajoutées en entrée ou en sortie d'un modèle d'IA, qui détectent et bloquent les comportements indésirables : prompts malveillants, fuites de données, contenus interdits. Ils sont distincts de l'alignement, qui agit sur le comportement par défaut du modèle lui-même.
- Red teamingLe red teaming, emprunté à la cybersécurité, est la pratique de tester un système d'IA en simulant des tentatives d'usage adverse : contournement des règles, extraction de données sensibles, génération de contenus interdits. Il vise à identifier les vulnérabilités avant qu'un acteur malveillant ne les exploite en production.
- RGPD et IALe RGPD encadre tout traitement de données personnelles par un système d'IA opéré en Europe ou concernant des Européens. Quatre obligations s'appliquent en priorité : finalité explicite, minimisation des données, droits d'accès et d'opposition, et étude d'impact pour les traitements à risque élevé.
- Souveraineté numériqueLa souveraineté numérique est la capacité d'une entreprise ou d'un État à maîtriser ses données, ses infrastructures et ses outils IA, indépendamment de juridictions étrangères. Elle conditionne la confidentialité, la conformité réglementaire et la résilience aux ruptures d'accès dictées par des décisions politiques externes.