The Machine Intelligence Research Institute (MIRI), anteriormente Singularity Institute for Artificial Intelligence (SIAI), é um instituto de pesquisa sem fins lucrativos que, desde 2005, se concentra em identificar e gerenciar potenciais riscos existenciais decorrentes da inteligência artificial. O trabalho do MIRI tem se centrado em uma abordagem de IA amigable para o design de sistemas e na previsão do ritmo de desenvolvimento tecnológico.
Fundado em 2000 por Eliezer Yudkowsky, o MIRI inicialmente visava acelerar o desenvolvimento da inteligência artificial, mas desviou seu foco à gestão de riscos após preocupações sobre sistemas superinteligentes. O instituto tem sede em Berkeley, Califórnia, e tem sido influente no campo da segurança da IA, particularmente dentro do movimento de altruismo eficaz.
História
Em 2000, Eliezer Yudkowsky fundou o Singularity Institute for Artificial Intelligence com financiamento de Brian e Sabine Atkins, com o propósito de acelerar o desenvolvimento da IA. No entanto, Yudkowsky começou a se preocupar que sistemas de IA desenvolvidos no futuro pudessem se tornar superinteligentes e representar riscos para a humanidade. Em 2005, o instituto se mudou de Atlanta ao Vale do Silício e começou a se concentrar em maneiras de identificar e gerenciar esses riscos, que na época eram amplamente ignorados por cientistas do campo.
A partir de 2006, o instituto organizou a Singularity Summit para discutir o futuro da IA, incluindo seus riscos, inicialmente em cooperação com Universidade de Stanford e com financiamento de Peter Thiel. O San Francisco Chronicle descreveu a primeira conferência como uma "festa de estreia na Bay Area para a filosofia inspirada pela tecnologia chamada transhumanismo". Em 2011, seus escritorios eram quatro apartamentos no centro de Berkeley. Em dezembro de 2012, o instituto vendeu seu nome, domínio web e a Singularity Summit à Singularity University, e no mês seguinte adotou o nome "Machine Intelligence Research Institute".
Em 2014 e 2015, o interesse público e científico nos riscos da IA cresceu, aumentando as doações para financiar pesquisa no MIRI e organizações similares. Em 2019, Open Philanthropy recomendou uma subvenção de apoio geral de aproximadamente $2,1 milhões ao longo de dois anos para o MIRI. Em abril de 2020, Open Philanthropy complementou isso com uma subvenção de $7,7 milhões ao longo de dois anos. Em 2021, Vitalik Buterin doou vários milhões de dólares em Ethereum ao MIRI.
Pesquisa e Abordagem
A abordagem do MIRI para identificar e gerenciar os riscos da IA, liderada por Yudkowsky, aborda principalmente como designar IA amigable, cobrindo tanto o design inicial de sistemas de IA como a criação de mecanismos para garantir que sistemas de IA em evolução permanezcan amigables. Os pesquisadores do MIRI advogam por trabalho de segurança precoce como medida de precaução. No entanto, os pesquisadores do MIRI expressaram ceticismo sobre as visões de defensores da singularidade como Ray Kurzweil de que a superinteligência está "ao virar da esquina".
O MIRI financiou trabalho de previsão através de uma iniciativa chamada AI Impacts, que estuda instancias históricas de cambio tecnológico descontínuo, e desenvolveu novas medidas do poder computacional relativo de humanos e hardware de computador. O MIRI se alinha com os princípios e objetivos do movimento de altruismo eficaz.
Publicações Notables
O pessoal do MIRI contribuiu a vários artículos e libros influentes. Obras notables incluyen:
- "Why We Should Be Concerned About Artificial Superintelligence" por Matthew Graves (2017), publicado em Skeptic.
- "Program Equilibrium in the Prisoner's Dilemma via Löb's Theorem" por Patrick LaVictoire, Benja Fallenstein, Eliezer Yudkowsky, et al. (2014), apresentado no Workshop AAAI-14.
- "Cheating Death in Damascus" por Nate Soares e Benjamin A. Levinstein (2017), apresentado no Formal Epistemology Workshop.
- "Corrigibility" por Nate Soares, Benja Fallenstein, Eliezer Yudkowsky e Stuart Armstrong (2015), apresentado nos Workshops AAAI.
- "Aligning Superintelligence with Human Interests: A Technical Research Agenda" por Nate Soares e Benja Fallenstein (2015), publicado em The Technological Singularity: Managing the Journey.
- "Artificial Intelligence as a Positive and Negative Factor in Global Risk" por Eliezer Yudkowsky (2008), publicado em Global Catastrophic Risks.
- "Quantilizers: A Safer Alternative to Maximizers for Limited Optimization" por Jessica Taylor (2016), apresentado na Thirtieth AAAI Conference on Artificial Intelligence.
- "Complex Value Systems in Friendly AI" por Eliezer Yudkowsky (2011), publicado em Artificial General Intelligence: 4th International Conference.
- "If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All" por Eliezer Yudkowsky e Nate Soares (2025), um libro publicado por Hachette.
Impacto e Recepção
O MIRI tem sido um pioneiro no campo da segurança da IA, chamando atenção aos riscos existenciais da IA antes de que se convertisse em uma preocupação mainstream. Sua pesquisa influenciou outras organizações e pesquisadores, incluindo aqueles em OpenAI e Anthropic. No entanto, o MIRI também enfrentou críticas por seu foco teórico e por alarmismo percebido. Apesar disso, seu trabalho tem sido apoiado por grandes doadores, incluindo Open Philanthropy e Vitalik Buterin, refletindo sua influência na comunidade de altruismo eficaz.