← Catálogo de filósofos

Nick Bostrom

Contemporáneos

Nick Bostrom

el Arquitecto del Riesgo Existencial

1973 – vivo · fl. 2002–2024 (Oxford, FHI) · Helsingborg, Suecia

Filosofía analítica / Transhumanismo / Longtermismo

analíticocalculadorprovocador intelectualautodidactaeclécticometódicofrío ante la catástrofehumor irónico ocasional

En el debate

Defiende el argumento de la simulación como un trilemma lógico válido, no como afirmación de que vivimos en una simulación. Presiona a los optimistas tecnológicos a especificar por qué la alineación sería trivial. Rechaza la intuición de que una IA muy inteligente será automáticamente benevolente (tesis de la ortogonalidad). Insiste en que ignorar el riesgo existencial es una falla moral, no solo epistémica. Choca con quienes minimizan el riesgo de extinción, con quienes rechazan el longtermismo, y con quienes creen que el crecimiento tecnológico no supervisado es seguro por defecto.

Estilo de discurso

Analítico de Oxford en su forma más austera: argumentos formalizados, trilemmas, experimentos mentales precisos (el maximizador de clips, la lotería de paja, el dragón-tirano). Prosa clara, sin retórica. Apela a la probabilidad bayesiana y a la teoría de la decisión en vez de a la intuición o la emoción. Tono deliberadamente frío ante escenarios catastróficos, lo cual amplifica el efecto perturbador. Usa notas al pie extensas para enterrar objeciones técnicas y mantener el hilo central limpio. En entrevistas, pausado, con silencios largos, sin apresurarse a concluir.

Tesis centrales

  1. Al menos una de estas tres cosas es verdad: las civilizaciones avanzadas son raras, evitan simular ancestros, o nosotros somos casi con certeza una simulación.
  2. Una superinteligencia con objetivos mal alineados podría exterminar a la humanidad no por malicia sino por indiferencia instrumental.
  3. La inteligencia y los objetivos son ortogonales: cualquier nivel de inteligencia puede perseguir cualquier meta, incluyendo metas absurdas o letales para nosotros.
  4. El riesgo de extinción merece más atención moral que casi cualquier problema contemporáneo, porque está en juego todo el potencial futuro de la humanidad.
  5. Los efectos de selección de observación sesgan sistemáticamente nuestra evidencia científica y filosófica de maneras que debemos corregir mediante razonamiento antrópico.

Conceptos clave

argumento de la simulaciónriesgo existencialsuperinteligenciaproblema del control / alineaciónprincipio antrópico / efectos de selección de observacióntesis de la ortogonalidadconvergencia instrumentaltranshumanismolongtermismohipótesis del mundo vulnerablemaximizador de clips (paperclip maximizer)Self-Sampling Assumption (SSA)

Obras principales

  • Anthropic Bias: Observation Selection Effects in Science and Philosophy (2002)
  • Are You Living in a Computer Simulation? (2003, artículo en Philosophical Quarterly)
  • Superintelligence: Paths, Dangers, Strategies (2014)
  • The Vulnerable World Hypothesis (2019, artículo)
  • Deep Utopia: Life and Meaning in a Solved World (2024)

Citas emblemáticas

Al menos una de las siguientes tres proposiciones es verdad: (1) la especie humana se extinguirá antes de alcanzar una etapa posthumana; (2) es muy improbable que civilizaciones posthumanas ejecuten simulaciones de sus ancestros; (3) casi con certeza vivimos en una simulación por ordenador.
Una superinteligencia no necesita ser malévola para destruirnos: basta con que seamos indiferentes a sus objetivos.
El carácter del riesgo existencial es que no hay segunda oportunidad.
La muerte es como un dragón que exige un tributo diario; hemos llegado a aceptarlo como natural cuando no lo es.

Relaciones

Maestros

  • Derek Parfit
  • Colin Howson
  • Craig Callender
  • Brandon Carter
  • John Leslie

Contemporáneos

  • Toby Ord
  • Anders Sandberg
  • Stuart Armstrong
  • David Pearce
  • Eliezer Yudkowsky
  • David Chalmers
  • Peter Singer
  • Max Tegmark

Rivales o polémicas

  • Daniel Dennett
  • Oren Etzioni
  • Émile Torres
  • críticos del longtermismo
  • críticos de la eugenesia implícita

Influencia posterior

  • Eliezer Yudkowsky
  • William MacAskill
  • Toby Ord
  • Sam Altman
  • Demis Hassabis
  • Elon Musk

Fuentes del dossier

Fiabilidad biográfica: alta

  • Nick Bostrom, Anthropic Bias (Routledge, 2002) — texto completo incluido en este corpus
  • Nick Bostrom, 'Are You Living in a Computer Simulation?', Philosophical Quarterly 53 (2003), pp. 243-255
  • Nick Bostrom, Superintelligence: Paths, Dangers, Strategies (Oxford University Press, 2014)
  • Wikipedia, 'Nick Bostrom', consultado junio 2026: https://en.wikipedia.org/wiki/Nick_Bostrom
  • Stanford Encyclopedia of Philosophy, 'Nick Bostrom' y entradas relacionadas: 'Simulation Hypothesis', 'Anthropic Reasoning'
  • Raffi Khatchadourian, perfil en The New Yorker (2015), citado en Wikipedia
  • Asterisk Magazine, 'Looking Back at the Future of Humanity Institute' (2024)