Max Tegmark (nascido em 1967 em Estocolmo, Suécia) é um físico, cosmólogo e professor do Instituto de Tecnologia de Massachusetts, conhecido por suas pesquisas sobre o multiverso e as estruturas matemáticas que fundamentam a realidade física. Desde meados da década de 2010, ele se tornou uma das figuras públicas mais visíveis na campanha por cautela no desenvolvimento de inteligência artificial geral, principalmente por meio da organização sem fins lucrativos que cofundou e agora lidera, o Future of Life Institute (FLI).
Tegmark cofundou o FLI em 2014 com vários colegas, incluindo o cofundador do Skype, Jaan Tallinn, para financiar e coordenar trabalhos voltados à redução de riscos de tecnologias transformadoras, com um forte foco inicial em risco existencial da IA. Em 2017, o instituto organizou a Conferência de Asilomar sobre IA Benéfica, que produziu um conjunto de princípios amplamente citado para o desenvolvimento responsável de IA, assinado por centenas de pesquisadores. Desde então, o FLI se tornou uma das organizações de defesa de causas mais bem financiadas, focada especificamente em segurança e governança de IA.
Life 3.0 e defesa pública
Em 2017, Tegmark publicou "Life 3.0: Being Human in the Age of Artificial Intelligence", um livro que apresenta uma série de cenários para como a IA transformadora poderia se desenrolar, desde resultados benéficos até catastróficos, e popularizou uma estrutura que descreve "Life 1.0, 2.0 e 3.0" como estágios da evolução biológica, cultural e tecnológica da inteligência. O livro se tornou um ponto de referência amplamente citado na discussão pública sobre superinteligência e ajudou a introduzir conceitos da pesquisa em segurança de IA a um público leitor geral amplo.
O momento de maior visibilidade na defesa de Tegmark ocorreu em março de 2023, quando o FLI publicou a carta aberta "Pause Giant AI Experiments", conhecida como carta de pausa, pedindo que os laboratórios de IA interrompessem o treinamento de modelos mais poderosos que o GPT-4 por pelo menos seis meses. A carta, que Tegmark ajudou a organizar e divulgar, foi assinada por milhares de pesquisadores e tecnólogos, incluindo Elon Musk e outras figuras proeminentes, e gerou cobertura significativa da mídia mainstream sobre o risco da IA, embora a pausa solicitada nunca tenha ocorrido. Desde então, ele continuou a pressionar por governança internacional vinculante, engajando-se com iniciativas como o ato de IA da UE e o processo da declaração de Bletchley.
Posições e recepção
Tegmark geralmente enquadra o risco da IA em termos de falhas concretas de governança de curto prazo, bem como cenários catastróficos de longo prazo, posicionando-se entre as previsões mais categóricas de pesquisadores como Eliezer Yudkowsky e as vozes mainstream da indústria que favorecem uma regulação mais leve. Críticos argumentaram que as campanhas do FLI às vezes confundem riscos especulativos de longo prazo com danos mais imediatos, como viés e desinformação, diluindo o foco em qualquer um deles. Apoiadores creditam a Tegmark a tradução de preocupações técnicas de alinhamento em uma linguagem que alcançou formuladores de políticas e o público em geral de forma mais precoce e eficaz do que a maior parte do trabalho acadêmico em segurança de IA.