¿Es Esto Lo Que Queremos? es una declaración pública publicada en 2025, firmada por más de 1,000 investigadores, ingenieros y tecnólogos en el campo de la inteligencia artificial. La declaración exige una regulación internacional inmediata y ejecutable del desarrollo de la IA, citando preocupaciones sobre riesgos no mitigados para la seguridad social, las instituciones democráticas y la equidad global. Su publicación marcó un caso poco común de defensa colectiva desde dentro de la comunidad técnica, contrastando con los llamados previos liderados por la industria a favor de la autogobernanza voluntaria.
La declaración surgió de un grupo de trabajo que incluía firmantes de importantes instituciones de investigación y empresas privadas, aunque los organizadores optaron por enfatizar su carácter de base por encima de cualquier afiliación organizativa única. El título del documento - una pregunta retórica dirigida a los responsables políticos y al público - refleja un llamamiento deliberado a los valores compartidos más que a la experiencia técnica únicamente. A las pocas semanas de su publicación, fue cubierto por los principales medios internacionales y debatido en entornos parlamentarios y congresuales, pero no condujo a ningún tratado formal ni cambio legislativo inmediato.
Antecedentes y contexto
La declaración surgió en un contexto de rápida comercialización de los modelos de lenguaje de gran escala y los sistemas de IA generativa. En los años previos a su publicación, las capacidades en aprendizaje automático y aprendizaje profundo habían avanzado drásticamente, generando tanto entusiasmo público como una ansiedad generalizada sobre el desplazamiento laboral, la desinformación y la vigilancia. Intervenciones notables anteriores - como cartas abiertas de diversos líderes tecnológicos - habían sido a menudo criticadas por vagas o interesadas. Los organizadores de ¿Es Esto Lo Que Queremos? buscaron distinguir su esfuerzo basándolo en evidencia específica de fallos recientes y cuasi accidentes, incluidos casos documentados de sistemas autónomos que causaron daños.
Demandas y principios clave
La declaración presenta varias demandas accionables, en lugar de un llamamiento generalizado a la precaución. Entre sus puntos principales se incluyen:
- Normas de seguridad obligatorias - que exigen pruebas de resistencia de las redes neuronales de alta capacidad antes de su despliegue, similares a la certificación aeroespacial o farmacéutica.
- Obligaciones de transparencia - que obligan a los desarrolladores a revelar las fuentes de los datos de entrenamiento, el consumo de energía y los modos de fallo conocidos.
- Mecanismos de reparación - que establecen responsabilidad legal por los daños causados por los sistemas de IA, con una cadena de responsabilidad clara.
- Coordinación internacional - que proponen un organismo de tratado con poderes de ejecución, modelado según los regímenes existentes de armas nucleares o químicas.
El texto rechaza explícitamente el argumento de que la regulación frenaría la innovación, citando ejemplos históricos donde las normas de seguridad fomentaron, en lugar de obstaculizar, el progreso tecnológico. También cuestiona la adecuación de la gobernanza interna actual en empresas como OpenAI, Anthropic y Google DeepMind, argumentando que los incentivos de beneficio distorsionan inevitablemente la autoevaluación.
Firmantes y apoyo
La lista de firmantes incluye figuras prominentes como Joshua Tenenbaum (MIT), Melanie Mitchell (Universidad Estatal de Portland), profesorado de BAIR (Berkeley AI Research) e investigadores industriales anteriores de Xerox PARC y Nokia Bell Labs. Aproximadamente el 70% de los firmantes estaban afiliados a instituciones académicas, mientras que el resto provenía de empresas privadas, organizaciones sin fines de lucro y laboratorios gubernamentales. Ningún director ejecutivo de una gran empresa de IA firmó, aunque varios ingenieros de nivel medio y gestores de producto sí lo hicieron, algunos de forma anónima para evitar represalias profesionales. Los organizadores publicaron posteriormente una nota metodológica confirmando que las firmas se verificaron contra direcciones de correo electrónico institucionales, pero que por lo demás eran autodeclaradas.
Recepción mediática y política
La reacción fue polarizada. Comentaristas partidarios, incluidos varios miembros del Parlamento Europeo y grupos de la sociedad civil, elogiaron la declaración por sus propuestas concretas y su negativa a deferir a las narrativas corporativas. Los escépticos, notablemente ejecutivos de la industria y algunos economistas libertarios, la descartaron como alarmista y argumentaron que las regulaciones existentes eran suficientes. En los Estados Unidos, una audiencia de un subcomité del Congreso sobre gobernanza de la IA hizo referencia directa al documento, aunque no se presentó ningún proyecto de ley. En contraste, el Bhabha Atomic Research Centre y ciertos organismos de seguridad nacional en otros países expresaron interés privado en sus disposiciones, viendo la IA como una tecnología de doble uso que necesita supervisión.
La declaración también provocó debates internos dentro de la comunidad de aprendizaje automático. Algunos académicos temían que su tono pudiera alienar a los socios industriales, mientras que otros contraargumentaron que la neutralidad ya no era sostenible dado el despliegue acelerado. Una contrapetición, titulada 'Nuestro Futuro Es Mejor Con IA', reunió menos de 200 firmas en el mismo período, lo que sugiere un peso intelectual significativo detrás de la declaración original.
Impacto y legado
A finales de 2025, no se han promulgado cambios políticos directos como resultado de la declaración. Sin embargo, se ha convertido en un punto de referencia común en propuestas posteriores, incluidas revisiones de las evaluaciones de impacto de la inteligencia artificial utilizadas por Waymo y otras aplicaciones críticas para la seguridad. Varios cursos universitarios ahora usan el texto como un estudio de caso en gobernanza tecnológica. En 2026, se estableció una conferencia de revisión anual para seguir el progreso en sus demandas, aunque la participación de las empresas más grandes sigue siendo escasa. La importancia a largo plazo de ¿Es Esto Lo Que Queremos? puede residir menos en su efecto legislativo inmediato que en normalizar la idea de que los expertos técnicos tienen tanto el derecho como la responsabilidad de hablar abiertamente sobre asuntos de bienestar público.