La carta "Pausa en los Experimentos Gigantes de IA" fue una carta abierta publicada el 22 de marzo de 2023 por el Future of Life Institute, que instaba a los laboratorios de IA a pausar el entrenamiento de sistemas más potentes que GPT-4 durante al menos seis meses. Reunió más de 30,000 firmas, incluyendo destacados tecnólogos e investigadores, y se convirtió en una de las intervenciones públicas más discutidas en los debates de políticas de IA de la década de 2020, aunque no condujo a ninguna pausa real por parte de los principales laboratorios.
Contenido y firmantes
La carta argumentaba que los laboratorios de IA estaban inmersos en una "carrera descontrolada" para desarrollar y desplegar sistemas cada vez más potentes que nadie, incluidos sus creadores, podía comprender, predecir o controlar de manera fiable, y advertía de riesgos que iban desde la inundación de los canales de información con propaganda y falsedades hasta una pérdida más amplia de control sobre la civilización. Hacía un llamamiento a una pausa pública y verificable, y a que el tiempo intermedio se utilizara para desarrollar protocolos de seguridad compartidos supervisados por expertos independientes. Entre los firmantes se encontraban Max Tegmark, cuyo Future of Life Institute organizó la carta, Elon Musk, y numerosos académicos y figuras de la comunidad de seguridad de la IA, aunque notablemente pocos investigadores de los laboratorios frontera más avanzados firmaron.
Recepción y críticas
La carta recibió duras críticas desde múltiples direcciones. Algunos investigadores de seguridad de la IA, incluidas figuras asociadas con las preocupaciones sobre riesgo existencial, argumentaron que una pausa temporal era una respuesta insuficiente a los riesgos descritos y preferían medidas regulatorias más vinculantes. Otros críticos, como académicos como Timnit Gebru y Emily Bender, argumentaron que la carta se centraba en daños especulativos a largo plazo mientras distraía de daños documentados a corto plazo como el sesgo algorítmico, y cuestionaron los motivos de los firmantes con intereses comerciales en frenar a los competidores.
Consecuencias
Ningún laboratorio importante de IA pausó su desarrollo en respuesta a la carta. OpenAI continuó lanzando productos, y competidores como Google DeepMind y Anthropic siguieron publicando nuevos modelos en los meses siguientes. No obstante, se atribuye a la carta el haber elevado la atención pública y política sobre el riesgo de la IA, contribuyendo al impulso que alimentó esfuerzos políticos posteriores, incluida la Cumbre de Seguridad de la IA de Bletchley Park más tarde ese año y una discusión más amplia sobre marcos de gobernanza de la IA. Se cita con frecuencia como un marcador de cuán mainstream se había vuelto la preocupación por la capacidad de la IA frontera a principios de 2023, incluso cuando su petición central no fue atendida.