# ¿Qué es el p(doom)? Definición de la «probabilidad de catástrofe» por la IA

> El p(doom), por «probability of doom», es la estimación personal, expresada en porcentaje, de la probabilidad de que una IA avanzada provoque una catástrofe existencial para la humanidad: extinción, pérdida definitiva de control o colapso de la civilización. No es una medida científica: cada persona elige su definición de catástrofe y su horizonte temporal.

## Definición
El término nació como una broma interna del foro LessWrong, frecuentado por investigadores preocupados por los riesgos de la IA, y se extendió por Silicon Valley en 2023, tras el lanzamiento de ChatGPT. Desde entonces, la pregunta «¿cuál es tu p(doom)?» sirve para situar a alguien en el debate. Las cifras anunciadas divergen mucho. Geoffrey Hinton, premio Nobel de Física 2024, estimó en diciembre de 2024 en BBC Radio 4 entre un 10 y un 20 % la probabilidad de que la IA acabe con la humanidad en los próximos treinta años. Dario Amodei, consejero delegado de Anthropic, habló en septiembre de 2025 de «un 25 % de probabilidades de que las cosas salgan muy, muy mal», aunque dice detestar el término. Yann LeCun, al contrario, considera «absurda» la idea de una amenaza existencial. Las encuestas dan un orden de magnitud. Entre 2778 investigadores que han publicado en los grandes congresos de IA (Grace et al., finales de 2023), la respuesta mediana es del 5 % para consecuencias «extremadamente malas», como la extinción humana. En el torneo de previsión XPT organizado en 2022 por el Forecasting Research Institute, los expertos del sector estimaban en un 3 % (mediana) el riesgo de extinción causada por la IA antes de 2100, frente al 0,38 % de los «superpronosticadores». El tema va más allá de las cifras: en mayo de 2023, los directivos de OpenAI, Google DeepMind y Anthropic firmaron la declaración del Center for AI Safety según la cual reducir el riesgo de extinción por la IA debe ser una prioridad mundial, al mismo nivel que las pandemias y la guerra nuclear.

## Ejemplo
Caso ilustrativo: en 2026, un consejero de una empresa mediana de servicios vuelve de una conferencia en la que un ponente anunciaba un p(doom) del 20 %. Pregunta al comité de dirección si hay que suspender el proyecto de agentes IA previsto para atención al cliente. El director general responde en tres tiempos. Primero, esa cifra se refiere a un escenario a largo plazo con sistemas futuros mucho más potentes, no a la herramienta que la empresa va a desplegar. Segundo, los riesgos concretos del proyecto son conocidos y se gestionan: respuestas erróneas, fuga de datos, inyección de prompt, obligaciones del AI Act. Se cubren con salvaguardas, supervisión humana y pruebas antes de la puesta en servicio. Tercero, la seguridad de los modelos pasa a ser un criterio de selección de proveedores: política de seguridad publicada, red teaming documentado. El comité mantiene el proyecto y añade ese criterio a la licitación.

## Para un directivo
La trampa a evitar con el p(doom) no es debatirlo, es dejar que una cifra espectacular guíe sus decisiones, en un sentido o en otro. Ni pánico (congelar todo proyecto de IA) ni negación (ignorar la seguridad). Tres reflejos. Primero, cuando se cite una cifra, pregunte qué mide: qué escenario, qué horizonte, qué método. Sin respuesta, es una opinión, no un dato. Segundo, separe las dos escalas de riesgo: el riesgo existencial corresponde a los laboratorios y a los Estados; sus riesgos operativos (errores, datos, cumplimiento) corresponden a su gobernanza y se tratan desde hoy. Tercero, use el debate como palanca de compra: exija a sus proveedores una política de seguridad publicada, evaluaciones de seguridad y compromisos de transparencia.

*Algunas estimaciones públicas del riesgo catastrófico de la IA*

| Quién | Cifra | Qué se estima | Horizonte |
| --- | --- | --- | --- |
| Geoffrey Hinton (dic. 2024) | 10 a 20 % | IA que acaba con la humanidad | 30 años |
| Dario Amodei, Anthropic (sept. 2025) | 25 % | Futuro de la IA que sale «muy, muy mal» | No precisado |
| Investigadores en IA, mediana (Grace et al., finales de 2023) | 5 % | Consecuencias «extremadamente malas» (p. ej., extinción) | Largo plazo |
| Expertos del sector, mediana (XPT, 2022) | 3 % | Extinción humana causada por la IA | 2100 |
| Superpronosticadores, mediana (XPT, 2022) | 0,38 % | Extinción humana causada por la IA | 2100 |

## Preguntas frecuentes

**¿Qué significa p(doom)?**
P(doom) significa «probabilidad de catástrofe» (probability of doom). Es el porcentaje que una persona atribuye al riesgo de que una IA avanzada cause una catástrofe para la humanidad, como su extinción o una pérdida definitiva de control. El término procede de la comunidad LessWrong y se extendió por Silicon Valley en 2023.

**¿Cuál es el p(doom) de los investigadores en IA?**
En la encuesta de Grace et al. realizada a finales de 2023 entre 2778 investigadores, la respuesta mediana es del 5 % para consecuencias «extremadamente malas», como la extinción humana. Las respuestas individuales van de cero a valores muy altos y dependen mucho de cómo se formule la pregunta.

**¿Cuál es el p(doom) de Geoffrey Hinton?**
En diciembre de 2024, en BBC Radio 4, Geoffrey Hinton estimó entre un 10 y un 20 % la probabilidad de que la IA acabe con la humanidad en los próximos treinta años. Antes hablaba de un 10 % y atribuye el aumento a la velocidad de los avances de la IA.

**¿Es el p(doom) un indicador científico?**
No. No existe un método de cálculo común ni una definición compartida de la catástrofe o del horizonte temporal. Por tanto, dos p(doom) no son comparables. La cifra sirve sobre todo para expresar un grado de preocupación y abrir el debate sobre los riesgos.

**¿Qué es un doomer en IA?**
Un doomer es una persona con un p(doom) elevado que considera probable una catástrofe causada por la IA si su desarrollo no se frena o se regula mejor. La palabra se usa a menudo de forma peyorativa por quienes consideran exagerados esos temores, como Yann LeCun.

**¿Afecta el p(doom) a mi empresa?**
No directamente: se refiere a sistemas futuros y a riesgos a escala de la humanidad. Sus riesgos inmediatos son operativos (errores, fuga de datos, cumplimiento del AI Act) y se tratan con gobernanza. El debate sigue siendo útil para exigir compromisos de seguridad a los proveedores.

## Para seguir

- [AGI (inteligencia artificial general)](https://wyp.agency/es/glosario/ia-general/)
- [Alineación](https://wyp.agency/es/glosario/alineacion/)
- [Red teaming](https://wyp.agency/es/glosario/red-teaming/)
- [Salvaguardas](https://wyp.agency/es/glosario/salvaguardas/)
- [AI Act](https://wyp.agency/es/glosario/ai-act/)
- [IA responsable](https://wyp.agency/es/glosario/ia-responsable/)

## Fuentes

- Thousands of AI Authors on the Future of AI, Grace et al., enero de 2024 (encuesta a 2778 investigadores, finales de 2023) (https://arxiv.org/abs/2401.02843)
- Forecasting Existential Risks: Evidence from a Long-Run Forecasting Tournament, Forecasting Research Institute, 2023 (torneo XPT de 2022) (https://forecastingresearch.org/pdf/existential-risk-persuasion-tournament.pdf)
- Statement on AI Risk, Center for AI Safety, 30 de mayo de 2023 (https://safe.ai/work/statement-on-ai-risk)
- Amodei on AI: There's a 25% chance that things go really, really badly, Axios, 17 de septiembre de 2025 (https://www.axios.com/2025/09/17/anthropic-dario-amodei-p-doom-25-percent)
- Godfather of AI shortens odds of the technology wiping out humanity over next 30 years, Irish Examiner, diciembre de 2024 (entrevista a Geoffrey Hinton en BBC Radio 4) (https://www.irishexaminer.com/world/arid-41544136.html)
- Yann LeCun says an existential threat from AI is preposterously ridiculous, Fortune, 15 de junio de 2023 (https://fortune.com/2023/06/15/yann-lecun-ai-godfather-destroy-humanity-threat/)
- Silicon Valley's p(doom), Fast Company, diciembre de 2023 (difusión del término) (https://www.fastcompany.com/90994526)

---
Ficha del glosario de IA de WYP.agency · https://wyp.agency/es/glosario/p-doom/ · Última actualización : 2026-11-20
