Nick Bostrom
Für Bostrom könnten manche Risiken die gesamte Zukunft der Menschheit beenden; sie zu verringern – auch das Risiko einer KI, die klüger ist als wir – gehört vielleicht zum Wichtigsten, was wir tun können.
Einordnung
Schwedischer Philosoph, Gründungsdirektor des Future of Humanity Institute in Oxford (2005–2024): Vielleicht leben wir in einer Computersimulation; „existenzielle Risiken“, die die Zukunft der Menschheit beenden könnten – vor allem superintelligente KI –, verdienen Vorrang.
Kernideen
- Existenzielles Risiko
- Simulationsargument
- Superintelligenz und KI-Ausrichtung
Einfluss
Beeinflusst von 1
Derek Parfit
beeinflusst von
Bostrom nutzte Parfits Vergleich eines Krieges, der 99 Prozent der Menschheit tötet, mit einem, der alle tötet, für die These, die Verringerung existenzieller Risiken sei globale Priorität (2013). N. Bostrom, “Existential Risk Prevention as Global Priority”, Global Policy 4 (2013); D. Parfit, Reasons and Persons (1984)
Beleg: KI-Entwurf
Derek Parfit › 1942–2017
Position
Bostroms Arbeiten reichen von der Wahrscheinlichkeitstheorie über die Technikphilosophie bis zur Ethik. „Anthropic Bias“ untersucht Beobachtungsselektionseffekte: wie die Tatsache, dass es uns als Beobachter gibt, unser Nachdenken über das Universum prägen sollte. Sein „Simulationsargument“ besagt, dass mindestens eine von drei Aussagen wahr ist: Fast alle Zivilisationen auf unserer Stufe sterben aus, bevor sie technologische Reife erreichen; fast keine, die sie erreicht, hat Interesse daran, ihre Vorfahren zu simulieren; oder wir leben fast sicher in einer Computersimulation. Er prägte den Begriff des „existenziellen Risikos“ – eines Risikos, das intelligentes Leben irdischen Ursprungs auslöschen oder sein Potenzial dauerhaft und drastisch beschneiden würde – und argumentierte, dass angesichts der riesigen Zahl künftiger Leben die Verringerung solcher Risiken eine globale Priorität sein sollte. „Superintelligenz“ vertrat, dass Maschinenintelligenz, die unsere übertrifft, plötzlich kommen könnte und dass die Abstimmung ihrer Ziele mit menschlichen Werten ein ungelöstes Problem ersten Ranges ist; das Buch prägte die öffentliche Debatte über KI-Sicherheit. Kritiker bemängeln den spekulativen Charakter dieser Szenarien, das Rechnen mit Erwartungswerten über die ferne Zukunft und seine transhumanistischen Annahmen. „Deep Utopia“ fragt, was dem Leben Sinn geben könnte, wenn die Technik unsere Probleme gelöst hat.
Leben & Kontext
Nick Bostrom (geboren 1973 als Niklas Boström in Helsingborg, Schweden) studierte Philosophie, Physik und computationale Neurowissenschaft in Göteborg, Stockholm und London und wurde 2000 an der London School of Economics promoviert. Nach einer Lehrtätigkeit in Yale ging er nach Oxford, wo er 2005 das Future of Humanity Institute gründete; er leitete es, bis die Universität es im April 2024 schloss, und führt heute die gemeinnützige Macrostrategy Research Initiative. 1998 war er Mitbegründer der World Transhumanist Association. Im Januar 2023 veröffentlichte er eine Entschuldigung für eine rassistische E-Mail, die er Mitte der 1990er Jahre an eine Mailingliste geschickt hatte.
Hauptwerke
- Existential Risks (2002)
- Anthropic Bias (2002)
- Leben Sie in einer Computersimulation? (2003)
- Superintelligenz (2014)
- Die verwundbare Welt (2019)
- Deep Utopia (2024)
Kommt vor in
Stand November 2026 · Quellen · Seite verbessern · So entsteht Agora