Nick Bostrom

Position

L’œuvre de Bostrom couvre la théorie des probabilités, la philosophie de la technologie et l’éthique. « Anthropic Bias » examine les effets de sélection liés à l’observation : comment le fait que nous existions en tant qu’observateurs doit orienter notre raisonnement sur l’univers. Son « argument de la simulation » affirme qu’au moins une de trois propositions est vraie : presque toutes les civilisations de notre niveau disparaissent avant d’atteindre la maturité technologique ; presque aucune de celles qui l’atteignent ne s’intéresse à simuler ses ancêtres ; ou bien nous vivons presque certainement dans une simulation informatique. Il a introduit le concept de « risque existentiel » – un risque qui anéantirait la vie intelligente originaire de la Terre ou en limiterait de façon permanente et drastique le potentiel – et soutenu que, vu l’immense nombre de vies futures en jeu, réduire de tels risques devrait être une priorité mondiale. « Superintelligence : chemins, dangers, stratégies » soutenait qu’une intelligence artificielle surpassant la nôtre pourrait surgir brusquement et que l’alignement de ses objectifs sur les valeurs humaines est un problème non résolu de la plus haute importance ; le livre a façonné le débat public sur la sécurité de l’IA. Les critiques mettent en question le caractère spéculatif de ces scénarios, le recours au raisonnement en valeur espérée à propos du futur lointain et ses présupposés transhumanistes. « Deep Utopia » demande ce qui pourrait donner un sens à la vie dans un monde où la technologie a résolu nos problèmes.

Vie et contexte

Nick Bostrom (né Niklas Boström en 1973 à Helsingborg, en Suède) étudia la philosophie, la physique et les neurosciences computationnelles à Göteborg, à Stockholm et à Londres et soutint sa thèse à la London School of Economics en 2000. Après avoir enseigné à Yale, il s’installa à Oxford, où il fonda en 2005 le Future of Humanity Institute ; il le dirigea jusqu’à sa fermeture par l’université en avril 2024 et dirige aujourd’hui la Macrostrategy Research Initiative, une organisation à but non lucratif. En 1998, il cofonda la World Transhumanist Association. En janvier 2023, il publia des excuses pour un courriel raciste qu’il avait envoyé à une liste de diffusion au milieu des années 1990.

Œuvres principales

• Existential Risks (traduction propre : « Les risques existentiels », 2002)
• Anthropic Bias (traduction propre : « Biais anthropique », 2002)
• Are You Living in a Computer Simulation? (traduction propre : « Vivez-vous dans une simulation informatique ? », 2003)
• Superintelligence : chemins, dangers, stratégies (2014)
• The Vulnerable World Hypothesis (traduction propre : « L’hypothèse du monde vulnérable », 2019)
• Deep Utopia (traduction propre : « Utopie profonde », 2024)

Apparaît dans

• Débat « Algorithmes, équité et pouvoir »
• Débat « Faire le plus de bien ? Altruisme efficace et long-termisme »