Nouveau · Présidentielle 2027 : ce que les candidats proposent sur l'IA, citations sourcées. Explorer l'observatoire →

Dernière revue :

Qu'est-ce que le p(doom) ? Définition de la « probabilité de catastrophe » liée à l'IA

Le p(doom), pour « probability of doom », est l'estimation personnelle, exprimée en pourcentage, de la probabilité qu'une IA avancée provoque une catastrophe existentielle pour l'humanité : extinction, perte définitive de contrôle ou effondrement de la civilisation. Ce n'est pas une mesure scientifique : chacun choisit sa définition de la catastrophe et son horizon de temps.

Le terme est né comme une plaisanterie interne au forum LessWrong, fréquenté par les chercheurs inquiets des risques de l'IA, puis s'est répandu dans la Silicon Valley en 2023, après le lancement de ChatGPT. La question « quel est ton p(doom) ? » sert depuis à situer quelqu'un dans le débat. Les chiffres annoncés divergent fortement. Geoffrey Hinton, prix Nobel de physique 2024, évoque en décembre 2024 sur BBC Radio 4 une probabilité de 10 à 20 % que l'IA anéantisse l'humanité dans les trente prochaines années. Dario Amodei, dirigeant d'Anthropic, donne en septembre 2025 « 25 % de chances que les choses tournent vraiment très mal », tout en disant détester le terme. Yann LeCun juge au contraire l'idée d'une menace existentielle « absurde ». Les enquêtes donnent un ordre de grandeur. Auprès de 2 778 chercheurs ayant publié dans les grandes conférences d'IA (Grace et al., fin 2023), la réponse médiane est de 5 % pour des conséquences « extrêmement mauvaises », comme l'extinction humaine. Lors du tournoi de prévision XPT organisé en 2022 par le Forecasting Research Institute, les experts du domaine estimaient à 3 % (médiane) le risque d'extinction due à l'IA d'ici 2100, contre 0,38 % pour les « superprévisionnistes ». Le sujet dépasse le jeu de chiffres : en mai 2023, les dirigeants d'OpenAI, de Google DeepMind et d'Anthropic ont signé la déclaration du Center for AI Safety selon laquelle réduire le risque d'extinction lié à l'IA doit être une priorité mondiale, au même titre que les pandémies et la guerre nucléaire.

Exemple concret

Cas illustratif : en 2026, un administrateur d'une ETI de services revient d'une conférence où un intervenant annonçait un p(doom) de 20 %. Il demande au comité de direction s'il faut suspendre le projet d'agents IA prévu pour le service client. Le directeur général répond en trois temps. D'abord, ce chiffre porte sur un scénario de long terme lié à des systèmes futurs beaucoup plus puissants, pas sur l'outil que l'entreprise s'apprête à déployer. Ensuite, les risques concrets du projet sont connus et se traitent : erreurs de réponse, fuite de données, injection de prompt, obligations de l'AI Act. Ils font l'objet de garde-fous, d'une supervision humaine et de tests avant mise en service. Enfin, la sûreté des modèles devient un critère de choix des fournisseurs : politique de sûreté publiée, red teaming documenté. Le comité maintient le projet et ajoute ce critère à l'appel d'offres.

Comparaison

Quelques estimations publiques du risque catastrophique lié à l'IA
QuiChiffreCe qui est estiméHorizon
Geoffrey Hinton (déc. 2024)10 à 20 %IA anéantissant l'humanité30 ans
Dario Amodei, Anthropic (sept. 2025)25 %Avenir de l'IA tournant « vraiment très mal »Non précisé
Chercheurs en IA, médiane (Grace et al., fin 2023)5 %Conséquences « extrêmement mauvaises » (ex. extinction)Long terme
Experts du domaine, médiane (XPT, 2022)3 %Extinction humaine due à l'IA2100
Superprévisionnistes, médiane (XPT, 2022)0,38 %Extinction humaine due à l'IA2100

Questions fréquentes

Que veut dire p(doom) ?

P(doom) se lit « probabilité de catastrophe » (probability of doom). C'est le pourcentage qu'une personne attribue au risque qu'une IA avancée cause une catastrophe pour l'humanité, comme son extinction ou une perte définitive de contrôle. Le terme vient de la communauté LessWrong et s'est répandu dans la Silicon Valley en 2023.

Quel est le p(doom) des chercheurs en IA ?

Dans l'enquête de Grace et al. menée fin 2023 auprès de 2 778 chercheurs, la réponse médiane est de 5 % pour des conséquences « extrêmement mauvaises », comme l'extinction humaine. Les réponses individuelles vont de zéro à des valeurs très élevées, et dépendent beaucoup de la formulation de la question.

Quel est le p(doom) de Geoffrey Hinton ?

En décembre 2024, sur BBC Radio 4, Geoffrey Hinton a estimé entre 10 et 20 % la probabilité que l'IA anéantisse l'humanité dans les trente prochaines années. Il avançait auparavant 10 %, et explique cette hausse par la vitesse des progrès de l'IA.

Le p(doom) est-il un indicateur scientifique ?

Non. Il n'existe ni méthode de calcul commune ni définition partagée de la catastrophe ou de l'horizon de temps. Deux p(doom) ne sont donc pas comparables. Le chiffre sert surtout à exprimer un degré d'inquiétude et à ouvrir la discussion sur les risques.

Qu'est-ce qu'un doomer en IA ?

Un doomer est une personne qui affiche un p(doom) élevé et juge probable une catastrophe causée par l'IA si son développement n'est pas freiné ou mieux encadré. Le mot est souvent employé de façon péjorative par ceux qui jugent ces craintes exagérées, comme Yann LeCun.

Le p(doom) concerne-t-il mon entreprise ?

Pas directement : il porte sur des systèmes futurs et des risques à l'échelle de l'humanité. Vos risques immédiats sont opérationnels (erreurs, fuite de données, conformité à l'AI Act) et se traitent par la gouvernance. Le débat reste utile pour exiger des fournisseurs des engagements de sûreté.

À voir aussi

Pour aller plus loin

Thousands of AI Authors on the Future of AI, Grace et al., arXiv:2401.02843 (ressource externe)

Sources

  1. Thousands of AI Authors on the Future of AI, Grace et al., janvier 2024 (enquête auprès de 2 778 chercheurs, fin 2023). https://arxiv.org/abs/2401.02843 (consulté le 2026-11-20)
  2. Forecasting Existential Risks: Evidence from a Long-Run Forecasting Tournament, Forecasting Research Institute, 2023 (tournoi XPT de 2022). https://forecastingresearch.org/pdf/existential-risk-persuasion-tournament.pdf (consulté le 2026-11-20)
  3. Statement on AI Risk, Center for AI Safety, 30 mai 2023. https://safe.ai/work/statement-on-ai-risk (consulté le 2026-11-20)
  4. Amodei on AI: There's a 25% chance that things go really, really badly, Axios, 17 septembre 2025. https://www.axios.com/2025/09/17/anthropic-dario-amodei-p-doom-25-percent (consulté le 2026-11-20)
  5. Godfather of AI shortens odds of the technology wiping out humanity over next 30 years, Irish Examiner, décembre 2024 (entretien de Geoffrey Hinton sur BBC Radio 4). https://www.irishexaminer.com/world/arid-41544136.html (consulté le 2026-11-20)
  6. Yann LeCun says an existential threat from AI is preposterously ridiculous, Fortune, 15 juin 2023. https://fortune.com/2023/06/15/yann-lecun-ai-godfather-destroy-humanity-threat/ (consulté le 2026-11-20)
  7. Silicon Valley's p(doom), Fast Company, décembre 2023 (diffusion du terme). https://www.fastcompany.com/90994526 (consulté le 2026-11-20)

Méthode éditorialeJournal des corrections

← Retour au glossaire

Adresse copiée