Les interdictions de l'IA Act de l'UE sont un ensemble de bans en vertu de la loi européenne sur l'intelligence artificielle (IA Act), entrée en vigueur le 1er août 2024. Ces interdictions ciblent les applications d'IA classées comme présentant des risques inacceptables pour les droits fondamentaux, la sécurité et les valeurs démocratiques. Elles sont devenues applicables le 2 février 2025, marquant la première étape majeure de mise en œuvre de la réglementation. Les bans font partie d'un cadre plus large basé sur les risques qui régit également les systèmes d'IA à haut risque, à risque limité et à risque minimal, ainsi que les modèles d'IA à usage général.
L'IA Act, proposé par la Commission européenne le 21 avril 2021, a été adopté par le Parlement européen le 13 mars 2024 et approuvé par le Conseil de l'UE le 21 mai 2024. Il établit un cadre réglementaire commun pour l'IA dans toute l'UE, avec une portée extraterritoriale similaire au Règlement général sur la protection des données. Les interdictions sont conçues pour empêcher les utilisations de l'IA considérées comme fondamentalement incompatibles avec les valeurs de l'UE, tout en permettant certaines exceptions étroitement définies pour les forces de l'ordre et la sécurité.
Portée des pratiques interdites
L'IA Act interdit les systèmes d'IA qui déploient des techniques subliminales, manipulatoires ou trompeuses pour déformer le comportement et altérer la prise de décision éclairée, causant un préjudice significatif. Cela inclut l'exploitation des vulnérabilités d'individus ou de groupes en raison de l'âge, du handicap ou de la situation socio-économique. Sont également interdits les systèmes de notation sociale basés sur l'IA qui évaluent ou classent les individus en fonction de leur comportement, de leurs caractéristiques personnelles ou de leurs interactions sociales, entraînant un traitement préjudiciable. L'utilisation de l'identification biométrique à distance en temps réel dans les espaces accessibles au public pour les forces de l'ordre est interdite, sauf pour des scénarios spécifiques de crimes graves avec autorisation judiciaire. De plus, les systèmes d'IA qui infèrent les émotions sur les lieux de travail ou dans les établissements d'enseignement sont interdits, tout comme ceux qui créent des bases de données de reconnaissance faciale par extraction non ciblée d'images sur Internet ou de séquences de vidéosurveillance.
Exemptions pour les forces de l'ordre et la sécurité
Certaines pratiques interdites bénéficient d'exemptions étroites. L'identification biométrique à distance en temps réel peut être utilisée par les forces de l'ordre pour des recherches ciblées de victimes d'enlèvement, de traite des êtres humains ou d'exploitation sexuelle, ou pour prévenir des menaces concrètes et substantielles pour la vie ou la sécurité. Ces utilisations nécessitent une approbation judiciaire préalable et sont soumises à des limites strictes de temps et de géographie. L'interdiction de la reconnaissance des émotions ne s'applique pas aux systèmes d'IA mis sur le marché pour des raisons médicales ou de sécurité, comme la détection de détresse dans les environnements de soins de santé. Les systèmes d'IA militaires et de sécurité nationale sont entièrement exemptés de l'IA Act, tout comme les systèmes utilisés pour la recherche et le développement scientifiques.
Mise en œuvre et application
Les États membres étaient tenus de désigner des autorités nationales compétentes pour superviser l'application des interdictions. Le Conseil européen de l'IA, établi par la loi, facilite la coopération et la conformité. Les pénalités pour violations des pratiques interdites peuvent atteindre jusqu'à 35 millions d'euros ou 7 % du chiffre d'affaires annuel mondial d'une entreprise, selon le montant le plus élevé. La Commission européenne a publié des lignes directrices pour clarifier la portée des bans, en particulier concernant la reconnaissance des émotions et la catégorisation biométrique.
Impact sur le développement et le déploiement de l'IA
Les interdictions ont des implications significatives pour les développeurs et les déployeurs d'IA. Les entreprises opérant dans l'UE doivent mener des évaluations approfondies pour s'assurer que leurs systèmes d'IA ne tombent pas dans la catégorie des risques inacceptables. Cela a conduit à des ajustements dans la conception des produits, en particulier pour les systèmes Generative AI et les applications Artificial intelligence qui pourraient involontairement manipuler le comportement des utilisateurs. Les bans affectent également les modèles Machine learning utilisés dans les algorithmes des médias sociaux, la publicité et les ressources humaines, car ceux-ci pourraient être considérés comme manipulateurs ou discriminatoires. Certains fournisseurs non européens ont choisi de restreindre l'accès à certaines fonctionnalités d'IA dans l'UE pour éviter les charges de conformité.
Relation avec d'autres dispositions de l'IA Act
Les interdictions sont distinctes des obligations pour les systèmes d'IA à haut risque, qui exigent des évaluations de conformité, de la transparence et une supervision humaine. Les systèmes à risque limité, tels que les chatbots Large language model, doivent seulement informer les utilisateurs qu'ils interagissent avec une IA. Les systèmes à risque minimal, comme les filtres anti-spam, ne sont pas réglementés. La catégorie d'IA à usage général, ajoutée en 2023 pour traiter des systèmes comme ChatGPT, impose des obligations de transparence et de droits d'auteur, avec des évaluations supplémentaires pour les modèles nécessitant plus de 10^25 opérations en virgule flottante. Les interdictions fonctionnent indépendamment, ce qui signifie qu'aucun système d'IA, quel que soit sa catégorie de risque, ne peut s'engager dans des pratiques interdites.
Influence mondiale et comparaisons
Les interdictions de l'IA Act de l'UE ont influencé la réglementation de l'IA dans le monde entier. D'autres juridictions, notamment le Canada et le Brésil, ont référencé le cadre de l'UE dans leurs propres propositions législatives. Cependant, les bans sont plus restrictifs que les approches aux États-Unis, qui reposent sur des lignes directrices volontaires et des règles sectorielles. La portée extraterritoriale de la loi signifie que les fournisseurs d'IA en dehors de l'UE, tels que ceux de l'écosystème OpenAI ou Google DeepMind, doivent se conformer s'ils offrent des services aux utilisateurs de l'UE. Cela a conduit à des politiques d'entreprise mondiales alignées sur les normes de l'UE, même dans des régions sans lois similaires.
Critiques et débats
Les juristes et les experts de l'industrie ont débattu de la clarté et de la faisabilité des interdictions. Les critiques soutiennent que des termes comme "techniques manipulatoires" et "préjudice significatif" sont vagues, ce qui pourrait entraîner une application incohérente. D'autres contestent que les exemptions pour les forces de l'ordre sont trop larges, permettant un abus potentiel. Les partisans soulignent que les bans protègent les droits fondamentaux et établissent une référence mondiale. La Commission européenne s'est engagée à publier des orientations supplémentaires et à mettre à jour la liste des pratiques interdites à mesure que la technologie évolue, garantissant que la loi reste réactive aux risques émergents.
Perspectives futures
En 2025, les interdictions sont en cours d'application, avec les autorités nationales commençant à émettre des avis de conformité. La Commission européenne prévoit de revoir la mise en œuvre d'ici 2029, en tenant compte des développements technologiques et du besoin d'ajustements. Le succès des bans dépendra d'une coordination efficace entre les États membres et de la capacité à s'adapter aux nouvelles capacités de l'IA. Les interdictions de l'IA Act de l'UE représentent un effort pionnier pour réglementer l'IA à ses extrêmes les plus nuisibles, équilibrant l'innovation avec la protection des droits individuels.