Nick Bostrom (nascido em 10 de março de 1973) é um filósofo nascido na Suécia, conhecido por seu trabalho sobre risco existencial, o princípio antrópico, ética do aprimoramento humano, emulação total do cérebro e riscos da superinteligência. Ele foi o diretor fundador do Future of Humanity Institute na Universidade de Oxford e tornou-se Pesquisador Principal na Macrostrategy Research Initiative.
Bostrom é autor de Anthropic Bias: Observation Selection Effects in Science and Philosophy (2002), Superintelligence: Paths, Dangers, Strategies (2014) e Deep Utopia: Life and Meaning in a Solved World (2024). Ele argumenta que avanços em inteligência artificial podem levar à superinteligência, que ele define como "qualquer intelecto que exceda em muito o desempenho cognitivo dos humanos em praticamente todos os domínios de interesse", vendo isso como uma fonte importante de oportunidades e riscos existenciais.
Vida e educação
Nascido como Niklas Boström em 1973 em Helsingborg, na Suécia, ele não gostava da escola quando jovem e passou o último ano do ensino médio estudando em casa. Interessava-se por antropologia, arte, literatura e ciência. Recebeu um bacharelado da Universidade de Gotemburgo em 1994, um mestrado em filosofia e física pela Universidade de Estocolmo e um mestrado em neurociência computacional pelo King's College London em 1996. Durante seu tempo na Universidade de Estocolmo, pesquisou a relação entre linguagem e realidade estudando o filósofo analítico W. V. Quine. Ele também se apresentou no circuito de comédia stand-up de Londres.
Em 2000, recebeu um doutorado em filosofia pela London School of Economics, sob a supervisão de Colin Howson e Craig Callender, com uma tese intitulada "Observational selection effects and probability". Ele ocupou um cargo de ensino na Universidade Yale de 2000 a 2002 e foi Bolsista de Pós-Doutorado da Academia Britânica na Universidade de Oxford de 2002 a 2005.
Risco existencial e o Future of Humanity Institute
A pesquisa de Bostrom diz respeito ao futuro da humanidade e aos resultados de longo prazo. Ele define risco existencial como aquele em que um "resultado adverso aniquilaria a vida inteligente de origem terrestre ou reduziria permanente e drasticamente seu potencial". Ele se concentra em riscos antropogênicos, especialmente de novas tecnologias como inteligência artificial avançada, nanotecnologia molecular ou biologia sintética.
Em 2005, Bostrom fundou o Future of Humanity Institute, que pesquisou o futuro distante da civilização humana até seu encerramento em 2024. Ele também é conselheiro do Centre for the Study of Existential Risk. Na coletânea de ensaios Global Catastrophic Risks de 2008, os editores Bostrom e Milan M. Ćirković caracterizaram a relação entre risco existencial e a classe mais ampla de riscos catastróficos globais, vinculando o risco existencial a efeitos de seleção de observadores e ao paradoxo de Fermi.
Em seu artigo "The Vulnerable World Hypothesis", Bostrom sugere que algumas tecnologias poderiam destruir a civilização humana por padrão quando descobertas. Ele propõe uma estrutura para classificar e lidar com essas vulnerabilidades, incluindo experimentos mentais contrafactuais, como armas nucleares sendo mais fáceis de desenvolver ou incendiando a atmosfera, como Edward Teller temia.
Sentciência digital e raciocínio antrópico
Bostrom apoia o princípio da independência do substrato, a ideia de que a consciência pode emergir em vários substratos físicos, não apenas em redes neurais biológicas baseadas em carbono, como o cérebro humano. Ele considera que "a senciência é uma questão de grau" e que mentes digitais poderiam ser projetadas para ter taxas e intensidades de experiência subjetiva mais altas que as humanas, usando menos recursos. Essas máquinas altamente sencientes, que ele chama de "super-beneficiários", seriam extremamente eficientes em alcançar a felicidade. Ele recomenda encontrar caminhos que permitam que mentes digitais e mentes biológicas coexistam de maneira mutuamente benéfica.
Bostrom publicou numerosos artigos sobre raciocínio antrópico, além do livro Anthropic Bias: Observation Selection Effects in Science and Philosophy. No livro, ele critica formulações anteriores do princípio antrópico, incluindo as de Brandon Carter, John Leslie, John Barrow e Frank Tipler. Ele argumenta que o mau uso de informações indexicais é uma falha comum em muitas áreas de investigação, incluindo cosmologia, filosofia, teoria da evolução, teoria dos jogos e física quântica. Ele introduz a suposição de autoamostragem (SSA) e analisa a suposição de autoindicação (SIA), mostrando como elas levam a conclusões diferentes e identificando paradoxos. Ele argumenta contra a SIA e propõe refinar a SSA na suposição forte de autoamostragem (SSSA), que substitui "observadores" por "momentos de observador".
Em trabalho posterior com Milan M. Ćirković e Anders Sandberg, ele propôs o fenômeno da sombra antrópica, um efeito de seleção de observadores que impede que observadores observem certos tipos de catástrofes em seu passado geológico e evolutivo recente. Eles sugerem que eventos na sombra antrópica provavelmente são subestimados, a menos que correções estatísticas sejam feitas.
Argumento da simulação e aprimoramento humano
O argumento da simulação de Bostrom postula que pelo menos uma das seguintes afirmações é muito provavelmente verdadeira: a fração de civilizações de nível humano que alcançam um estágio pós-humano é muito próxima de zero; a fração de civilizações pós-humanas interessadas em executar simulações de ancestrais é muito próxima de zero; ou a fração de todas as pessoas com nosso tipo de experiências vivendo em uma simulação é muito próxima de um.
Bostrom é favoravelmente disposto ao aprimoramento humano, ou "autoaperfeiçoamento e perfectibilidade humana por meio da aplicação ética da ciência", e é crítico das visões bioconservadoras. Em 1998, ele cofundou a World Transhumanist Association (agora Humanity+) com David Pearce. Em 2004, cofundou o Institute for Ethics and Emerging Technologies com James Hughes, embora não esteja mais envolvido com nenhuma das organizações. Em 2005, publicou o conto "The Fable of the Dragon-Tyrant" no Journal of Medical Ethics, com uma versão mais curta na Philosophy Now em 2012.
Legado e influência
O trabalho de Bostrom moldou significativamente as discussões sobre segurança da IA e risco existencial. Seu livro Superintelligence tem sido amplamente citado em círculos acadêmicos e de políticas, influenciando debates sobre como garantir que sistemas avançados de IA sejam desenvolvidos com segurança. Sua abordagem interdisciplinar, combinando filosofia, teoria da probabilidade e ciência da computação, tornou-o uma figura central no campo da ética da IA. A partir do início dos anos 2020, suas ideias continuam a informar pesquisas em instituições como OpenAI e Google DeepMind, que abordam riscos de longo prazo associados a aprendizado de máquina e aprendizado profundo.