La Convention du Conseil de l'Europe sur l'intelligence artificielle, officiellement la Convention-cadre sur l'intelligence artificielle, les droits de l'homme, la démocratie et l'État de droit, est un traité international ouvert à la signature le 5 septembre 2024 à Vilnius, en Lituanie. Elle représente le premier instrument juridiquement contraignant traitant spécifiquement de l'intelligence artificielle, visant à garantir que les systèmes d'IA sont développés et utilisés d'une manière conforme aux droits de l'homme, aux processus démocratiques et à l'État de droit. La convention s'applique aux activités des autorités publiques et des acteurs privés agissant en leur nom, avec des dispositions relatives à l'évaluation et à l'atténuation des risques tout au long du cycle de vie des systèmes d'IA.
Le traité est issu d'un processus pluriannuel au sein du Conseil de l'Europe, qui a débuté en 2019 avec la création du Comité ad hoc sur l'intelligence artificielle (CAHAI). Après l'étude de faisabilité du CAHAI, le Comité sur l'intelligence artificielle (CAI) a été chargé de rédiger la convention en 2022. Les négociations se sont conclues en mars 2024, et le texte a été adopté par le Comité des Ministres le 17 mai 2024. La convention est également ouverte aux États non européens, reflétant son ambition mondiale. Au début de 2025, plusieurs pays, dont le Royaume-Uni, les États-Unis et le Japon, ont signé mais pas encore ratifié le traité.
Contexte et historique
L'avancement rapide des technologies d'intelligence artificielle, y compris les modèles de Machine learning et de Deep learning, a incité des efforts internationaux pour établir des normes communes. Le Conseil de l'Europe, avec son engagement de longue date en faveur des droits de l'homme, s'est positionné comme un forum clé pour une telle réglementation. La convention s'appuie sur des instruments existants comme la Convention européenne des droits de l'homme et la Convention pour la protection des personnes à l'égard du traitement automatisé des données à caractère personnel. Contrairement à l'Acte législatif sur l'IA de l'Union européenne, qui est une réglementation régionale, la convention du Conseil de l'Europe est conçue comme un cadre mondial, ouvert aux pays au-delà de l'Europe.
Le processus de rédaction a impliqué une consultation approfondie avec la société civile, le monde universitaire et l'industrie. Les figures clés des négociations comprenaient le président du CAI et des représentants des États membres et des États observateurs. La portée de la convention couvre l'ensemble du cycle de vie des systèmes d'IA, de la conception et du développement au déploiement et au démantèlement, avec un accent sur les activités susceptibles d'interférer avec les droits de l'homme.
Dispositions clés
La convention établit des principes généraux pour les systèmes d'IA, notamment la transparence, la responsabilité et la non-discrimination. Elle exige des parties qu'elles adoptent des mesures pour garantir que les systèmes d'IA sont utilisés d'une manière conforme à la dignité humaine et à l'autonomie individuelle. Des dispositions spécifiques traitent de la protection des données personnelles, du droit à la vie privée et du droit à un recours effectif pour ceux affectés négativement par les décisions d'IA. Le traité souligne également l'importance de la sensibilisation et de l'éducation du public sur l'IA.
L'un des éléments centraux de la convention est l'exigence d'évaluation et d'atténuation des risques. Les parties doivent identifier, évaluer et traiter les risques posés par les systèmes d'IA, en particulier ceux qui pourraient conduire à la discrimination ou à d'autres violations des droits de l'homme. La convention distingue les applications à haut risque et à faible risque, avec des obligations plus strictes pour les premières. Elle impose également que les systèmes d'IA soient soumis à une supervision humaine, garantissant que les humains peuvent intervenir dans les processus décisionnels lorsque cela est nécessaire.
Signataires et processus de ratification
Au début de 2025, la convention a été signée par plus de 20 pays, dont le Royaume-Uni, les États-Unis, le Japon et plusieurs nations européennes. La cérémonie de signature a eu lieu à Vilnius, avec des représentants de ces pays présents. La ratification nécessite une approbation nationale dans chaque État signataire ; la convention entrera en vigueur trois mois après la cinquième ratification, y compris au moins trois États membres du Conseil de l'Europe. À la date limite des connaissances, aucun pays n'a encore ratifié, mais le processus est en cours dans plusieurs juridictions.
La nature ouverte de la convention permet aux États non membres d'y adhérer, ce qui a été considéré comme un moyen de promouvoir des normes mondiales. Par exemple, les États-Unis, qui ne sont pas membres du Conseil de l'Europe, ont signé le traité, signalant leur volonté de s'aligner sur les normes internationales en matière de gouvernance de l'IA. Cependant, la ratification n'est pas garantie, et l'efficacité du traité dépendra de l'engagement des signataires à mettre en œuvre ses dispositions.
Comparaison avec l'Acte législatif sur l'IA de l'UE
La Convention du Conseil de l'Europe sur l'IA et l'Acte législatif sur l'IA de l'UE sont des instruments complémentaires mais distincts. L'Acte législatif sur l'IA de l'UE est une réglementation complète qui s'applique à tous les systèmes d'IA placés sur le marché de l'UE, avec une classification basée sur les risques et des exigences contraignantes pour les fournisseurs et les utilisateurs. En revanche, la convention du Conseil de l'Europe est un traité-cadre qui établit des principes généraux et des obligations, laissant les détails de mise en œuvre à la législation nationale. La convention est moins prescriptive, permettant aux parties une flexibilité dans la réalisation de ses objectifs.
Les deux instruments mettent l'accent sur les droits de l'homme et la sécurité, mais la convention a une portée géographique plus large, influençant potentiellement la gouvernance de l'IA au-delà de l'Europe. L'Acte législatif sur l'IA de l'UE, approuvé par le Conseil européen en mai 2024, devrait servir de modèle pour de nombreux pays, mais le traité du Conseil de l'Europe offre une voie alternative ou complémentaire pour les États non membres de l'UE. La relation entre les deux n'est pas hiérarchique ; ils fonctionnent plutôt en parallèle, l'Acte législatif sur l'IA de l'UE s'appliquant aux États membres de l'UE et la convention fournissant une base mondiale.
Mise en œuvre et application
La convention exige que chaque partie établisse ou désigne une autorité de surveillance pour superviser la conformité. Ces autorités doivent avoir le pouvoir d'enquêter, d'imposer des sanctions et de fournir des recours en cas de violations. Le traité encourage également la coopération internationale, y compris l'assistance mutuelle et l'échange d'informations entre les autorités. Cependant, les mécanismes d'application sont relativement faibles par rapport à l'Acte législatif sur l'IA de l'UE, qui inclut des amendes pouvant atteindre 7 % du chiffre d'affaires mondial pour certaines violations.
La mise en œuvre nécessitera des changements juridiques et institutionnels importants dans de nombreux pays. Par exemple, les parties doivent s'assurer que leurs lois nationales sont alignées sur les principes de la convention, ce qui peut impliquer de modifier les lois existantes sur la protection des données et la lutte contre la discrimination. La convention appelle également au développement de normes et de lignes directrices, éventuellement en collaboration avec d'autres organismes internationaux comme l'OCDE et l'UNESCO.
Réactions et critiques
La convention a reçu des réactions mitigées. Les partisans, y compris de nombreuses organisations de droits de l'homme, la saluent comme une étape historique vers des normes internationales contraignantes pour l'IA. Ils soutiennent qu'elle fournit un contrepoids nécessaire au déploiement rapide des systèmes d'IA par des entreprises comme OpenAI, Anthropic et Google DeepMind, qui développent des modèles de langage de grande taille de plus en plus puissants. Les critiques, cependant, soutiennent que la convention est trop vague et manque de mordant en matière d'application. Certains groupes de la société civile ont appelé à des dispositions plus fortes sur l'interdiction de certaines applications d'IA, telles que les systèmes de notation sociale, et à des règles de responsabilité plus claires.
Les représentants de l'industrie ont exprimé des préoccupations concernant le potentiel de fragmentation réglementaire, car différents pays peuvent interpréter la convention différemment. Ils s'inquiètent également de la charge de conformité, en particulier pour les petites et moyennes entreprises. Néanmoins, de nombreuses entreprises technologiques ont publiquement soutenu les objectifs de la convention, y voyant un moyen de renforcer la confiance du public dans l'IA.
Perspectives d'avenir
Au début de 2025, la convention est en phase de ratification. Son entrée en vigueur est attendue dans les prochaines années, selon la rapidité des ratifications. L'impact du traité sera probablement significatif, car il établit un précédent pour la gouvernance internationale de l'IA. Il pourrait également influencer le développement d'autres cadres régionaux, tels que ceux en Afrique et en Amérique latine. Le succès de la convention dépendra de la manière dont les parties mettront en œuvre ses principes et de sa capacité à s'adapter au paysage évolutif de l'IA, y compris les avancées dans la Generative AI et les systèmes autonomes.
Le Conseil de l'Europe prévoit de tenir des réunions régulières des parties pour examiner la mise en œuvre et partager les meilleures pratiques. Il existe également une possibilité de protocoles supplémentaires pour traiter des questions spécifiques, telles que l'IA dans le domaine militaire ou dans les soins de santé. La convention est un instrument vivant, conçu pour évoluer avec les développements technologiques.
Conclusion
La Convention du Conseil de l'Europe sur l'IA marque une étape importante dans la gouvernance mondiale de l'intelligence artificielle. En établissant des obligations contraignantes pour les États afin de protéger les droits de l'homme dans le contexte de l'IA, elle établit une nouvelle norme pour la coopération internationale. Bien que son efficacité reste à démontrer, la convention représente un effort collectif pour garantir que l'IA sert l'humanité plutôt que de la saper. Alors que les pays progressent vers la ratification, les principes du traité sont susceptibles de façonner les lois nationales et les pratiques des entreprises dans le monde entier, contribuant à un écosystème d'IA plus responsable et centré sur l'humain.