A carta "Pause Giant AI Experiments" foi uma carta aberta publicada em 22 de março de 2023 pelo Future of Life Institute, pedindo que laboratórios de IA pausassem o treinamento de sistemas mais poderosos que o GPT-4 por pelo menos seis meses. Ela reuniu mais de 30.000 assinaturas, incluindo tecnólogos e pesquisadores proeminentes, e se tornou uma das intervenções públicas mais amplamente discutidas nos debates de políticas de IA da década de 2020, embora não tenha levado a nenhuma pausa real por parte dos principais laboratórios.
Conteúdo e signatários
A carta argumentava que os laboratórios de IA estavam em uma "corrida descontrolada" para desenvolver e implantar sistemas cada vez mais poderosos que ninguém, incluindo seus criadores, poderia compreender, prever ou controlar de forma confiável, e alertava sobre riscos que variavam desde a inundação dos canais de informação com propaganda e inverdades até a perda mais ampla de controle sobre a civilização. Ela pedia uma pausa pública e verificável, e que o tempo intermediário fosse usado para desenvolver protocolos de segurança compartilhados, supervisionados por especialistas independentes. Entre os signatários estavam Max Tegmark, cujo Future of Life Institute organizou a carta, Elon Musk, e numerosos acadêmicos e figuras da comunidade de segurança de IA, embora notavelmente poucos pesquisadores dos principais laboratórios de fronteira tenham assinado.
Recepção e críticas
A carta atraiu duras críticas de várias direções. Alguns pesquisadores de segurança de IA, incluindo figuras associadas a preocupações com risco existencial, argumentaram que uma pausa temporária era uma resposta insuficiente aos riscos descritos e preferiam medidas regulatórias mais vinculativas. Outros críticos, como acadêmicos como Timnit Gebru e Emily Bender, argumentaram que a carta se concentrava em danos especulativos de longo prazo enquanto distraía de danos documentados de curto prazo, como viés algorítmico, e questionaram os motivos de signatários com interesses comerciais em desacelerar concorrentes.
Consequências
Nenhum grande laboratório de IA pausou o desenvolvimento em resposta à carta. A OpenAI continuou lançando produtos, e concorrentes como Google DeepMind e Anthropic continuaram a lançar novos modelos nos meses seguintes. A carta é, no entanto, creditada por elevar a atenção pública e política ao risco da IA, contribuindo para o impulso que alimentou esforços políticos subsequentes, incluindo a Cúpula de Segurança de IA de Bletchley Park naquele ano e uma discussão mais ampla sobre estruturas de governança de IA. Ela é frequentemente referenciada como um marco de como a preocupação mainstream com a capacidade da IA de fronteira havia se tornado no início de 2023, mesmo que seu pedido central não tenha sido atendido.