Est-ce ce que nous voulons ? est une déclaration publique publiée en 2025, signée par plus de 1 000 chercheurs, ingénieurs et technologues dans le domaine de l'intelligence artificielle. La déclaration appelle à une réglementation internationale immédiate et contraignante du développement de l'IA, citant des préoccupations concernant les risques non atténués pour la sécurité sociétale, les institutions démocratiques et l'équité mondiale. Sa publication a marqué un rare exemple de plaidoyer collectif émanant de la communauté technique, contrastant avec les appels antérieurs menés par l'industrie en faveur d'une autorégulation volontaire.
La déclaration est issue d'un groupe de travail comprenant des signataires de grandes institutions de recherche et d'entreprises privées, bien que les organisateurs aient choisi de mettre l'accent sur son caractère grassroots plutôt que sur toute affiliation organisationnelle unique. Le titre du document - une question rhétorique posée aux décideurs politiques et au public - reflète un appel délibéré à des valeurs partagées plutôt qu'à la seule expertise technique. Dans les semaines suivant sa publication, il a été couvert par les grands médias internationaux et débattu dans des contextes parlementaires et congressionnels, mais il n'a pas conduit à un traité formel ou à un changement législatif immédiat.
Contexte et toile de fond
La déclaration est née dans un contexte de commercialisation rapide des modèles de langage de grande taille et des systèmes de IA générative. Dans les années précédant sa publication, les capacités en apprentissage automatique et en apprentissage profond avaient fortement progressé, suscitant à la fois un enthousiasme public et une anxiété généralisée concernant la suppression d'emplois, la désinformation et la surveillance. Des interventions notables antérieures - telles que des lettres ouvertes de divers dirigeants technologiques - avaient souvent été critiquées comme vagues ou intéressées. Les organisateurs d'Est-ce ce que nous voulons ? ont cherché à distinguer leur effort en le fondant sur des preuves spécifiques issues de défaillances et de quasi-accidents récents, y compris des cas documentés de systèmes autonomes causant des préjudices.
Demandes clés et principes
La déclaration avance plusieurs demandes actionnables, plutôt qu'un appel généralisé à la prudence. Parmi ses points principaux figurent :
- Normes de sécurité obligatoires - exiger des tests de résistance des réseaux de neurones à haute capacité avant leur déploiement, à l'instar de la certification aérospatiale ou pharmaceutique.
- Obligations de transparence - contraindre les développeurs à divulguer les sources des données d'entraînement, la consommation énergétique et les modes de défaillance connus.
- Mécanismes de réparation - établir une responsabilité légale pour les préjudices causés par les systèmes d'IA, avec une chaîne de responsabilité claire.
- Coordination internationale - proposer un organe de traité doté de pouvoirs d'exécution, calqué sur les régimes existants de contrôle des armes nucléaires ou chimiques.
Le texte rejette explicitement l'argument selon lequel la réglementation ralentirait l'innovation, citant des exemples historiques où des règles de sécurité ont favorisé plutôt qu'entravé le progrès technologique. Il remet également en question l'adéquation de la gouvernance interne actuelle dans des entreprises comme OpenAI, Anthropic et Google DeepMind, arguant que les incitations au profit faussent inévitablement l'auto-évaluation.
Signataires et soutien
La liste des signataires comprend des figures éminentes telles que Joshua Tenenbaum (MIT), Melanie Mitchell (Université d'État de Portland), des membres du corps professoral de BAIR (Berkeley AI Research) et d'anciens chercheurs industriels de Xerox PARC et Nokia Bell Labs. Environ 70 % des signataires étaient affiliés à des institutions académiques, tandis que le reste provenait d'entreprises privées, d'organisations à but non lucratif et de laboratoires gouvernementaux. Aucun PDG d'une grande entreprise d'IA n'a signé, bien qu'un certain nombre d'ingénieurs de niveau intermédiaire et de chefs de produit l'aient fait, certains anonymement pour éviter des représailles professionnelles. Les organisateurs ont ensuite publié une note méthodologique confirmant que les signatures avaient été vérifiées par rapport aux adresses e-mail institutionnelles, mais étaient par ailleurs auto-déclarées.
Réception médiatique et politique
La réaction a été polarisée. Des commentateurs favorables, notamment plusieurs membres du Parlement européen et des groupes de la société civile, ont salué la déclaration pour ses propositions concrètes et son refus de se plier aux récits d'entreprise. Des sceptiques, notamment des dirigeants de l'industrie et certains économistes libertariens, l'ont rejetée comme alarmiste et ont soutenu que les réglementations existantes étaient suffisantes. Aux États-Unis, une audition de sous-comité du Congrès sur la gouvernance de l'IA a fait directement référence au document, bien qu'aucun projet de loi n'ait été présenté. En revanche, le Bhabha Atomic Research Centre et certains organismes de sécurité nationale dans d'autres pays ont exprimé un intérêt privé pour ses dispositions, considérant l'IA comme une technologie à double usage nécessitant une surveillance.
La déclaration a également suscité des débats internes au sein de la communauté du apprentissage automatique. Certains universitaires craignaient que son ton ne puisse aliéner les partenaires industriels, tandis que d'autres rétorquaient que la neutralité n'était plus tenable face à un déploiement accéléré. Une contre-pétition, intitulée « Notre avenir est meilleur avec l'IA », a recueilli moins de 200 signatures sur la même période, suggérant un poids intellectuel significatif derrière la déclaration originale.
Impact et héritage
À la fin de 2025, aucun changement politique direct n'a été promulgué à la suite de la déclaration. Cependant, elle est devenue un point de référence courant dans les propositions ultérieures, y compris les révisions des évaluations d'impact de l'IA utilisées par Waymo et d'autres applications critiques pour la sécurité. Plusieurs cours universitaires utilisent désormais le texte comme étude de cas en gouvernance technologique. En 2026, une conférence annuelle de revue a été établie pour suivre les progrès sur ses demandes, bien que la participation des plus grandes entreprises reste rare. La signification à long terme d'Est-ce ce que nous voulons ? réside peut-être moins dans un effet législatif immédiat que dans la normalisation de l'idée que les experts techniques ont à la fois le droit et la responsabilité de s'exprimer ouvertement sur des questions de bien-être public.