En 2024, la Californie a promulgué une série de lois sur l'intelligence artificielle qui allaient bien au-delà du très médiatisé Sénat Bill 1047. Alors que le SB 1047, la loi sur la sécurité et l'innovation pour les modèles d'intelligence artificielle de pointe, dominait les gros titres nationaux et a finalement été opposé par le gouverneur Gavin Newsom le 29 septembre 2024, la législature de l'État a adopté et le gouverneur a signé de nombreuses autres mesures liées à l'IA. Ces lois abordaient un large éventail de préoccupations, notamment la transparence des contenus générés par l'IA, l'utilisation des deepfakes dans les campagnes politiques et la responsabilité des systèmes de prise de décision automatisée. Ensemble, elles ont positionné la Californie comme pionnière de la réglementation de l'IA, même si l'approche de l'État restait plus fragmentée que le cadre complet proposé par le SB 1047.
Le paquet législatif reflétait une urgence croissante parmi les législateurs californiens à répondre à la prolifération rapide des outils Generative AI. Les lois ont été élaborées au milieu d'un intense lobbying de la part des groupes industriels, des institutions académiques et des organisations de la société civile. Le gouverneur Newsom, un démocrate, a signé les projets de loi dans une série d'annonces tout au long de septembre 2024, soulignant la nécessité de protéger les consommateurs et les électeurs tout en favorisant l'innovation. Les statuts qui en ont résulté ont créé de nouvelles obligations pour les entreprises développant et déployant des systèmes Artificial intelligence dans l'État, qui abrite de nombreuses entreprises leaders mondiales de l'IA, notamment OpenAI, Anthropic et Google DeepMind.
Transparence des contenus générés par l'IA
L'une des pièces législatives les plus importantes était le projet de loi 2013 de l'Assemblée, qui imposait la transparence des données d'entraînement. La loi exige que les développeurs de systèmes d'IA générative publient une documentation sur les ensembles de données utilisés pour entraîner leurs modèles. Cette documentation doit inclure des informations sur les sources des données, si les données incluent du matériel protégé par le droit d'auteur, et comment les données ont été organisées et traitées. La loi s'applique aux développeurs qui fournissent des services d'IA aux Californiens, quel que soit le siège social de l'entreprise. Elle est entrée en vigueur le 1er janvier 2025, laissant aux entreprises une courte fenêtre pour se conformer.
L'AB 2013 a été perçu comme une réponse directe aux poursuites intentées par des auteurs et des artistes contre des entreprises comme OpenAI et Anthropic, qui alléguaient que leurs œuvres protégées par le droit d'auteur avaient été utilisées sans permission pour entraîner des Large language model. La loi n'interdit pas l'utilisation de matériel protégé par le droit d'auteur, mais elle force la transparence sur son utilisation. Les experts juridiques ont noté que les exigences de documentation pourraient être lourdes pour les petites startups, tandis que les grandes entreprises disposant de plus de ressources étaient mieux positionnées pour se conformer. La loi exigeait également que les développeurs décrivent le but du modèle et les cas d'utilisation prévus, ainsi que toute limitation ou risque connu.
Deepfakes dans les campagnes politiques
La Californie a également agi de manière agressive pour réglementer l'utilisation des deepfakes dans les élections. Le projet de loi 2655 de l'Assemblée, signé en septembre 2024, exige que les grandes plateformes en ligne étiquettent ou suppriment les contenus trompeurs générés par l'IA liés aux élections. La loi s'applique aux contenus qui représentent un candidat ou un élu de manière matériellement trompeuse, comme une fausse vidéo montrant un candidat disant quelque chose qu'il n'a jamais dit. Les plateformes doivent agir dans les 72 heures suivant la notification de tels contenus. La loi s'appuie sur des statuts californiens antérieurs qui traitaient des deepfakes dans les élections, mais elle étend les exigences à une gamme plus large de plateformes et de contenus.
L'AB 2655 a été complété par le projet de loi 2839 de l'Assemblée, qui permet aux tribunaux d'émettre des injonctions contre la distribution de contenus électoraux trompeurs générés par l'IA. La loi permet également aux candidats de demander des recours juridiques accélérés. Ensemble, ces lois ont créé un cadre juridique robuste pour lutter contre la désinformation pilotée par l'IA lors du cycle électoral de 2024 et au-delà. Les partisans ont fait valoir que les lois étaient nécessaires pour protéger les processus démocratiques, tandis que les critiques ont soulevé des préoccupations concernant d'éventuelles violations du premier amendement et la difficulté de définir ce qui constitue un deepfake "matériellement trompeur".
Responsabilité algorithmique et prise de décision automatisée
Une autre loi notable, le Sénat Bill 942, traitait de l'utilisation de l'IA dans les systèmes de prise de décision automatisée. La loi exige que les entreprises qui utilisent l'IA pour prendre des décisions conséquentes - telles que celles affectant l'emploi, le logement, le crédit ou les soins de santé - fournissent aux consommateurs des informations significatives sur le fonctionnement du système. Cela inclut la logique impliquée dans la décision, l'importance du rôle de l'IA et le droit du consommateur de se retirer ou de demander un examen humain. La loi est entrée en vigueur le 1er janvier 2025 et a été en partie modelée sur le Règlement général sur la protection des données de l'Union européenne.
Le SB 942 a été salué par les défenseurs de la vie privée comme un pas vers la transparence algorithmique. Cependant, il a également été critiqué pour être vague sur ce qui constitue une "décision conséquente" et pour ne pas exiger des entreprises qu'elles réalisent des audits indépendants de leurs systèmes. Les mécanismes d'application de la loi ont été largement laissés à l'Agence californienne de protection de la vie privée, qui a été chargée de publier des règlements pour mettre en œuvre le statut. Certains groupes industriels ont averti que la loi pourrait conduire à une mosaïque de charges de conformité, car les entreprises devraient adapter leurs systèmes pour répondre aux exigences de la Californie.
Protections pour les artistes interprètes et créateurs
La Californie a également promulgué des lois visant à protéger les acteurs, les musiciens et autres artistes interprètes contre les répliques non autorisées par l'IA. Le projet de loi 2602 de l'Assemblée exige que les contrats entre les artistes interprètes et les studios incluent un langage clair sur l'utilisation des répliques numériques. La loi, qui est entrée en vigueur le 1er janvier 2025, interdit l'utilisation d'une réplique numérique d'un artiste interprète sans consentement explicite, sauf si l'utilisation est couverte par une convention collective. Elle a été soutenue par la Screen Actors Guild - American Federation of Television and Radio Artists (SAG-AFTRA), qui avait récemment conclu une grève incluant des préoccupations concernant l'IA.
Une loi connexe, le projet de loi 1836 de l'Assemblée, a étendu des protections similaires aux artistes interprètes décédés. Elle exige le consentement de la succession ou des héritiers avant qu'une réplique numérique d'une personne décédée puisse être utilisée dans une production commerciale. La loi a été perçue comme une réponse à l'utilisation croissante de l'IA pour recréer les apparences de figures historiques et de célébrités décédées. Les deux lois étaient notables pour leur spécificité, abordant les défis uniques posés par l'IA dans l'industrie du divertissement, qui est un moteur économique majeur en Californie.
Le veto du SB 1047
Malgré l'adoption de ces lois, la pièce la plus ambitieuse de la législation sur l'IA en Californie n'est pas devenue loi. Le SB 1047, introduit par le sénateur Scott Wiener, aurait exigé que les développeurs de grands modèles d'IA mettent en œuvre des protocoles de sécurité, y compris un interrupteur d'arrêt et des audits par des tiers. Le projet de loi aurait également créé une nouvelle agence d'État pour superviser les modèles d'IA de pointe. Le gouverneur Newsom a opposé son veto au projet de loi le 29 septembre 2024, arguant qu'il était trop large et pourrait étouffer l'innovation. Dans son message de veto, Newsom a déclaré que le projet de loi se concentrait sur les plus grands modèles et pourrait imposer des "normes strictes" qui n'étaient pas justifiées par les risques actuels.
Le veto a été une victoire pour de nombreux acteurs de l'industrie technologique, y compris OpenAI et Anthropic, qui avaient fait pression contre le projet de loi. Cependant, il a déçu les défenseurs qui soutenaient que la Californie avait besoin de garanties solides contre les préjudices potentiels de l'IA avancée. Dans son message, Newsom a déclaré qu'il avait chargé les agences d'État de travailler avec des experts pour développer des approches alternatives, y compris des cadres basés sur les risques pour la réglementation de l'IA. Le veto a mis en évidence la tension entre le désir de l'État de mener dans la réglementation de l'IA et son intérêt à maintenir sa position de hub mondial pour l'innovation technologique.
Réactions et réponse de l'industrie
Les lois de 2024 ont suscité des réactions mitigées de la part de l'industrie de l'IA. Des entreprises comme OpenAI et Anthropic ont publiquement soutenu certaines des mesures de transparence et de deepfake, tout en exprimant des préoccupations concernant le fardeau cumulatif de la conformité. Les petites startups, en particulier celles dans le domaine Generative AI, craignaient que les exigences de documentation de l'AB 2013 soient difficiles à satisfaire. Certaines entreprises ont commencé à embaucher des responsables de la conformité et des équipes juridiques pour naviguer dans les nouvelles réglementations. Des groupes industriels, tels que la Chamber of Progress et l'association commerciale TechNet, ont fait valoir que les lois pourraient créer un environnement réglementaire fragmenté, car d'autres États et le gouvernement fédéral envisageaient également une législation sur l'IA.
Les organisations de la société civile, y compris l'American Civil Liberties Union et l'Electronic Frontier Foundation, étaient généralement favorables aux mesures de transparence et de responsabilité. Elles ont fait valoir que les lois donnaient aux consommateurs et aux électeurs des outils importants pour comprendre et contester les décisions pilotées par l'IA. Cependant, certains défenseurs de la vie privée ont noté que les lois n'allaient pas assez loin, en particulier en exigeant des audits indépendants ou en interdisant certaines utilisations à haut risque de l'IA. Le débat sur la réglementation de l'IA en Californie est susceptible de continuer, car la législature de l'État a déjà signalé qu'elle envisagerait des projets de loi supplémentaires sur l'IA en 2025.
Mise en œuvre et application
La mise en œuvre des lois de 2024 incombe en grande partie aux agences d'État, y compris l'Agence californienne de protection de la vie privée et le bureau du procureur général. L'Agence de protection de la vie privée est chargée de rédiger des règlements pour le SB 942, qui clarifieront la portée de la loi et les procédures d'application. L'agence a tenu des ateliers publics pour recueillir les contributions des parties prenantes, y compris des représentants de l'industrie, des universitaires et des défenseurs des consommateurs. Le bureau du procureur général est responsable de l'application des lois sur les deepfakes et peut intenter des actions civiles contre les contrevenants.
La conformité avec les nouvelles lois devrait être une entreprise significative pour les entreprises opérant en Californie. Le grand secteur technologique de l'État, qui comprend les principaux développeurs d'IA et fournisseurs de cloud comme Amazon Web Services, Microsoft Azure et Google Cloud, sera le plus affecté. Beaucoup de ces entreprises ont déjà commencé à publier une documentation sur les modèles et à mettre en œuvre des systèmes d'étiquetage de contenu en prévision des lois. L'impact à long terme des lois dépendra de la manière dont elles seront interprétées par les tribunaux et les régulateurs, ainsi que de la question de savoir si le gouvernement fédéral adopte sa propre législation sur l'IA qui pourrait préempter les lois des États.
Contexte plus large et perspectives d'avenir
Les lois californiennes sur l'IA de 2024 font partie d'un mouvement mondial plus large vers la réglementation de l'IA. La loi sur l'IA de l'Union européenne, formellement adoptée en 2024, impose des exigences complètes sur les systèmes d'IA en fonction de leur niveau de risque. D'autres pays, y compris la Chine et le Royaume-Uni, ont également introduit des cadres de gouvernance de l'IA. Aux États-Unis, le gouvernement fédéral a adopté une approche plus fragmentée, avec des décrets exécutifs et des orientations d'agences plutôt qu'une législation complète. Les lois californiennes, bien que plus étroites que la loi sur l'IA de l'UE, représentent une étape significative en l'absence d'action fédérale.
L'avenir de la réglementation de l'IA en Californie reste incertain. Le veto du SB 1047 a démontré les défis politiques de l'adoption d'une législation complète sur l'IA, même dans un État avec une supermajorité démocrate. Cependant, l'adoption du paquet de 2024 a montré qu'il existe un soutien bipartisan pour traiter des préjudices spécifiques, tels que les deepfakes et les biais algorithmiques. Alors que la technologie de l'IA continue d'évoluer, les législateurs californiens revisiteront probablement la question, introduisant potentiellement de nouveaux projets de loi pour répondre aux défis émergents. Pour l'instant, les lois de 2024 fournissent une base pour la gouvernance de l'IA dans l'État, équilibrant l'innovation avec la protection des consommateurs.