Nick Bostrom (geboren am 10. März 1973) ist ein in Schweden geborener Philosoph, der für seine Arbeiten zu existenziellen Risiken, dem anthropischen Prinzip, der Ethik der menschlichen Verbesserung, der Ganzhirnemulation und den Risiken von Superintelligenz bekannt ist. Er war Gründungsdirektor des Future of Humanity Institute an der University of Oxford und ist heute Principal Researcher bei der Macrostrategy Research Initiative.
Bostrom ist der Autor von Anthropic Bias: Observation Selection Effects in Science and Philosophy (2002), Superintelligence: Paths, Dangers, Strategies (2014) und Deep Utopia: Life and Meaning in a Solved World (2024). Er argumentiert, dass Fortschritte in der künstlichen Intelligenz zu Superintelligenz führen könnten, die er als „jeden Intellekt, der die kognitive Leistungsfähigkeit des Menschen in praktisch allen relevanten Bereichen weit übertrifft" definiert, und betrachtet dies als eine wichtige Quelle von Chancen und existenziellen Risiken.
Frühes Leben und Ausbildung
Geboren als Niklas Boström im Jahr 1973 in Helsingborg, Schweden, mochte er die Schule in jungen Jahren nicht und verbrachte sein letztes Jahr der High School mit Heimunterricht. Er interessierte sich für Anthropologie, Kunst, Literatur und Wissenschaft. Er erhielt 1994 einen B.A. von der Universität Göteborg, einen M.A. in Philosophie und Physik von der Universität Stockholm und 1996 einen M.Sc. in Computational Neuroscience vom King's College London. Während seiner Zeit an der Universität Stockholm erforschte er die Beziehung zwischen Sprache und Realität, indem er den analytischen Philosophen W. V. Quine studierte. Er trat auch in der Londoner Stand-up-Comedy-Szene auf.
Im Jahr 2000 wurde ihm ein Ph.D. in Philosophie von der London School of Economics unter der Aufsicht von Colin Howson und Craig Callender verliehen, mit einer Dissertation mit dem Titel „Observational selection effects and probability". Von 2000 bis 2002 hatte er eine Lehrstelle an der Yale University inne und war von 2002 bis 2005 British Academy Postdoctoral Fellow an der University of Oxford.
Existenzielles Risiko und das Future of Humanity Institute
Bostroms Forschung befasst sich mit der Zukunft der Menschheit und langfristigen Ergebnissen. Er definiert existenzielles Risiko als eines, bei dem ein „ungünstiges Ergebnis entweder die auf der Erde entstandene intelligente Lebensform auslöschen oder ihr Potenzial dauerhaft und drastisch einschränken würde". Er konzentriert sich auf anthropogene Risiken, insbesondere durch neue Technologien wie fortgeschrittene künstliche Intelligenz, molekulare Nanotechnologie oder synthetische Biologie.
Im Jahr 2005 gründete Bostrom das Future of Humanity Institute, das bis zu seiner Schließung im Jahr 2024 die ferne Zukunft der menschlichen Zivilisation erforschte. Er ist auch Berater des Centre for the Study of Existential Risk. In der Essaysammlung Global Catastrophic Risks von 2008 charakterisierten die Herausgeber Bostrom und Milan M. Ćirković die Beziehung zwischen existenziellen Risiken und der breiteren Klasse globaler katastrophaler Risiken und verbanden existenzielles Risiko mit Beobachtungsauswahleffekten und dem Fermi-Paradoxon.
In seinem Papier „The Vulnerable World Hypothesis" schlägt Bostrom vor, dass einige Technologien die menschliche Zivilisation standardmäßig zerstören könnten, wenn sie entdeckt werden. Er schlägt einen Rahmen zur Klassifizierung und Bewältigung dieser Verwundbarkeiten vor, einschließlich kontrafaktischer Gedankenexperimente wie der einfacheren Entwicklung von Atomwaffen oder der Entzündung der Atmosphäre, wie Edward Teller befürchtet hatte.
Digitale Empfindungsfähigkeit und anthropische Argumentation
Bostrom unterstützt das Prinzip der Substratunabhängigkeit, die Idee, dass Bewusstsein auf verschiedenen physischen Substraten entstehen kann, nicht nur in kohlenstoffbasierten biologischen neuronalen Netzen wie dem menschlichen Gehirn. Er betrachtet, dass „Empfindungsfähigkeit eine Frage des Grades ist" und dass digitale Geister so konstruiert werden könnten, dass sie höhere Raten und Intensitäten subjektiver Erfahrungen als Menschen aufweisen, mit weniger Ressourcen. Solche hochgradig empfindungsfähigen Maschinen, die er „Super-Begünstigte" nennt, wären äußerst effizient darin, Glück zu erreichen. Er empfiehlt, Wege zu finden, die es digitalen und biologischen Geistern ermöglichen, auf eine für beide Seiten vorteilhafte Weise zu koexistieren.
Bostrom hat zahlreiche Artikel zur anthropischen Argumentation veröffentlicht sowie das Buch Anthropic Bias: Observation Selection Effects in Science and Philosophy. In dem Buch kritisiert er frühere Formulierungen des anthropischen Prinzips, einschließlich derer von Brandon Carter, John Leslie, John Barrow und Frank Tipler. Er argumentiert, dass der falsche Umgang mit indexikalischen Informationen ein häufiger Fehler in vielen Forschungsbereichen sei, einschließlich Kosmologie, Philosophie, Evolutionstheorie, Spieltheorie und Quantenphysik. Er führt die Selbst-Stichproben-Annahme (SSA) ein und analysiert die Selbst-Indikations-Annahme (SIA), wobei er zeigt, wie sie zu unterschiedlichen Schlussfolgerungen führen, und Paradoxien identifiziert. Er argumentiert gegen SIA und schlägt vor, SSA zur starken Selbst-Stichproben-Annahme (SSSA) zu verfeinern, die „Beobachter" durch „Beobachter-Momente" ersetzt.
In späterer Arbeit mit Milan M. Ćirković und Anders Sandberg schlug er das Phänomen des anthropischen Schattens vor, einen Beobachtungsauswahleffekt, der Beobachter daran hindert, bestimmte Arten von Katastrophen in ihrer jüngeren geologischen und evolutionären Vergangenheit zu beobachten. Sie schlagen vor, dass Ereignisse im anthropischen Schatten wahrscheinlich unterschätzt werden, es sei denn, statistische Korrekturen werden vorgenommen.
Simulationsargument und menschliche Verbesserung
Bostroms Simulationsargument besagt, dass mindestens eine der folgenden Aussagen sehr wahrscheinlich wahr ist: Der Anteil der Zivilisationen auf menschlichem Niveau, die ein posthumanes Stadium erreichen, ist sehr nahe an null; der Anteil der posthumanen Zivilisationen, die daran interessiert sind, Vorfahren-Simulationen laufen zu lassen, ist sehr nahe an null; oder der Anteil aller Menschen mit unserer Art von Erfahrungen, die in einer Simulation leben, ist sehr nahe an eins.
Bostrom ist menschlicher Verbesserung gegenüber positiv eingestellt, oder „Selbstverbesserung und menschlicher Perfektibilität durch die ethische Anwendung der Wissenschaft", und ist ein Kritiker biokonservativer Ansichten. 1998 war er Mitbegründer der World Transhumanist Association (heute Humanity+) mit David Pearce. 2004 war er Mitbegründer des Institute for Ethics and Emerging Technologies mit James Hughes, obwohl er nicht mehr an beiden Organisationen beteiligt ist. 2005 veröffentlichte er die Kurzgeschichte „The Fable of the Dragon-Tyrant" im Journal of Medical Ethics, mit einer kürzeren Version in Philosophy Now im Jahr 2012.
Vermächtnis und Einfluss
Bostroms Arbeit hat die Diskussionen über KI-Sicherheit und existenzielles Risiko erheblich geprägt. Sein Buch Superintelligence wurde in akademischen und politischen Kreisen weithin zitiert und beeinflusste Debatten darüber, wie sichergestellt werden kann, dass fortgeschrittene KI-Systeme sicher entwickelt werden. Sein interdisziplinärer Ansatz, der Philosophie, Wahrscheinlichkeitstheorie und Informatik kombiniert, hat ihn zu einer zentralen Figur im Bereich der KI-Ethik gemacht. Ab den frühen 2020er Jahren fließen seine Ideen weiterhin in die Forschung an Institutionen wie OpenAI und Google DeepMind ein, die sich mit langfristigen Risiken im Zusammenhang mit maschinellem Lernen und Deep Learning befassen.