La loi sur la responsabilité en matière de deepfakes est un projet de loi fédéral proposé aux États-Unis qui exigerait l'étiquetage des contenus générés par l'IA, y compris les deepfakes, afin d'atténuer les risques de tromperie et de désinformation. Introduite pour la première fois en 2019, cette législation vise à établir des obligations de transparence pour les créateurs et les distributeurs de médias synthétiques, tout en offrant un recours juridique aux personnes lésées par des deepfakes non étiquetés. Le projet de loi reflète les préoccupations croissantes concernant l'utilisation abusive des technologies Generative AI et a servi de point de référence dans les débats politiques ultérieurs sur la réglementation de l'IA.
Les deepfakes sont des médias réalistes mais fabriqués, créés à l'aide de techniques d'Artificial intelligence, en particulier des architectures de Deep learning et de Neural network. Le terme combine « apprentissage profond » et « faux », et la technologie a gagné en importance en 2017 lorsqu'un utilisateur anonyme de Reddit a publié des vidéos manipulées de célébrités. D'ici 2019, la prolifération des deepfakes avait suscité des alarmes quant à leur potentiel à saper les élections, à diffamer des individus et à éroder la confiance du public dans les médias. La loi sur la responsabilité en matière de deepfakes a été introduite à la Chambre des représentants des États-Unis le 12 juin 2019 par la représentante Yvette Clarke de New York, une démocrate qui avait auparavant parrainé une législation sur la cybersécurité.
Dispositions législatives
Le projet de loi propose des amendements à la loi américaine sur les communications de 1934, ajoutant une nouvelle section sur la « transparence dans la création de médias synthétiques ». En vertu de cette législation, toute personne qui crée un deepfake avec l'intention de le distribuer doit inclure un filigrane numérique ou une étiquette textuelle indiquant que le contenu est généré par l'IA. L'étiquette doit être clairement visible et difficile à retirer. Le projet de loi exige également que les plateformes hébergeant du contenu généré par les utilisateurs fournissent un mécanisme permettant aux utilisateurs de signaler les deepfakes non étiquetés et de retirer ce contenu sur notification.
De plus, le projet de loi établit un droit d'action privé, permettant aux individus représentés dans un deepfake sans consentement de poursuivre le créateur pour dommages-intérêts, y compris des dommages-intérêts statutaires pouvant atteindre 150 000 dollars par violation. Il ordonne également à la Commission fédérale des communications (FCC) d'adopter des règlements mettant en œuvre les exigences d'étiquetage dans les 180 jours suivant la promulgation. Le projet de loi exclut explicitement les contenus clairement satiriques, parodiques ou fictifs, à condition qu'ils ne soient pas présentés comme des informations authentiques ou des reportages factuels.
Historique législatif
La loi sur la responsabilité en matière de deepfakes a été introduite lors du 116e Congrès sous la référence H.R. 3230. Elle a été renvoyée à la commission de l'énergie et du commerce de la Chambre, mais aucune autre mesure n'a été prise au cours de cette session. Le projet de loi a été réintroduit le 12 mars 2020 sous la référence H.R. 6236, avec des dispositions similaires. Encore une fois, il est resté bloqué en commission. Lors du 117e Congrès, la représentante Clarke a introduit une version révisée le 24 juin 2021 sous la référence H.R. 4230, qui incluait des exigences supplémentaires pour les publicités politiques. Aucune de ces versions n'a abouti à un vote en séance plénière.
Malgré l'absence d'adoption, le projet de loi a été cité dans de nombreuses initiatives au niveau des États et dans des articles académiques comme modèle de réglementation des deepfakes. Par exemple, la Californie a adopté une loi en 2019 (AB 730) qui interdit la distribution de médias audio ou visuels trompeurs de candidats politiques dans les 60 jours précédant une élection, et la loi sur la responsabilité en matière de deepfakes est souvent mentionnée comme son équivalent fédéral. Le projet de loi a également influencé les discussions dans l'Union européenne, qui a proposé la loi sur l'IA en 2021, incluant des obligations de transparence pour les deepfakes.
Principaux partisans et opposants
La représentante Yvette Clarke a été la principale promotrice, arguant que le projet de loi est nécessaire pour protéger les consommateurs et préserver l'intégrité démocratique. Dans un communiqué de presse, elle a déclaré que « les deepfakes constituent une menace significative pour notre sécurité nationale, notre démocratie et notre société ». Le projet de loi a reçu le soutien d'organisations de défense des libertés civiles telles que la Electronic Frontier Foundation, qui a salué ses dispositions d'étiquetage et de retrait, bien que l'EFF ait également exprimé des préoccupations concernant un possible dépassement.
Les opposants incluent des défenseurs de la liberté d'expression et certains groupes de l'industrie technologique, qui soutiennent que l'étiquetage obligatoire pourrait être contraignant et que la définition du deepfake dans le projet de loi est trop large. L'Union américaine des libertés civiles (ACLU) a averti que le droit d'action privé pourrait être utilisé pour réduire au silence une expression légitime, comme les commentaires critiques ou l'expression artistique. Certaines entreprises technologiques, y compris OpenAI et Google DeepMind, ont publiquement soutenu l'étiquetage volontaire mais n'ont pas approuvé la législation spécifique.
Contexte technique
La loi sur la responsabilité en matière de deepfakes a émergé pendant une période de progrès rapide dans les modèles Generative AI. En 2018, les chercheurs de NVIDIA ont introduit l'architecture StyleGAN, capable de générer des visages humains très réalistes. En 2019, OpenAI a publié GPT-2, un Large language model capable de produire un texte cohérent, soulevant des préoccupations concernant la désinformation générée par l'IA. L'exigence d'étiquetage du projet de loi a été vue comme une réponse à ces développements, bien qu'elle se concentre principalement sur les deepfakes visuels et audio plutôt que sur le texte.
La création de deepfakes implique généralement des réseaux antagonistes génératifs (GAN), où deux réseaux neuronaux - un générateur et un discriminateur - sont entraînés ensemble. Le générateur produit des médias synthétiques, tandis que le discriminateur tente de les distinguer des médias réels. Au fil du temps, le générateur s'améliore, conduisant à des sorties de plus en plus convaincantes. L'exigence d'une étiquette visible dans le projet de loi visait à faciliter l'identification de ce contenu par les spectateurs, même si la technologie sous-jacente évolue.
Impact et héritage
Bien que la loi sur la responsabilité en matière de deepfakes ne soit jamais devenue une loi, elle a eu un impact durable sur le paysage politique. Elle a été l'un des premiers projets de loi fédéraux à traiter spécifiquement des deepfakes, et ses dispositions ont été reprises dans des propositions ultérieures, telles que la loi bipartisane sur la force opérationnelle sur les deepfakes de 2020 et la loi sur la responsabilité algorithmique de 2022. Le projet de loi a également contribué à une conversation plus large sur l'éthique et la réglementation de l'IA, influençant la recherche académique sur la détection et le filigrane des deepfakes.
En l'absence de législation fédérale, plusieurs États ont adopté leurs propres lois sur les deepfakes. En 2024, au moins 15 États ont adopté des lois traitant des deepfakes, allant de sanctions pénales pour usage malveillant à des exigences d'étiquetage dans les publicités politiques. La loi sur la responsabilité en matière de deepfakes est fréquemment citée dans ces efforts étatiques comme modèle. De plus, les grandes plateformes technologiques ont mis en œuvre des politiques volontaires pour étiqueter le contenu généré par l'IA, telles que la balise « Made with AI » de meta et les informations d'identification de contenu de Google (AI).
Statut actuel et perspectives d'avenir
En 2025, la loi sur la responsabilité en matière de deepfakes n'a pas été réintroduite dans le Congrès actuel. Cependant, la question reste d'actualité, en particulier avec l'essor des Large language model comme GPT-4 et la facilité croissante de générer des médias synthétiques. En 2024, la Commission électorale fédérale (FEC) a refusé de réglementer les deepfakes générés par l'IA dans les publicités politiques, invoquant un manque d'autorité, ce qui a relancé les appels à une législation fédérale. La représentante Clarke a indiqué qu'elle pourrait introduire une nouvelle version du projet de loi, mais aucune annonce formelle n'a été faite.
L'avenir du projet de loi pourrait dépendre du climat politique et de l'issue des débats en cours sur la réglementation de l'IA. Certains législateurs ont proposé une législation plus large sur l'IA, telle que la loi sur la transparence des modèles de fondation de l'IA, qui exigerait la divulgation du contenu généré par l'IA dans tous les domaines. La loi sur la responsabilité en matière de deepfakes reste un point de référence fondamental, et ses principes sont susceptibles d'informer toute future loi fédérale sur les deepfakes.
Critiques et limites
Les critiques ont souligné plusieurs limites de la loi sur la responsabilité en matière de deepfakes. Premièrement, la définition du deepfake dans le projet de loi est limitée aux « médias audio ou visuels qui semblent authentiques et représentent une personne disant ou faisant quelque chose qu'elle n'a pas dit ou fait ». Cela exclut le contenu textuel généré par l'IA, qui peut également être utilisé pour propager la désinformation. Deuxièmement, l'exigence d'étiquetage peut être contournée par des utilisateurs sophistiqués qui peuvent retirer les filigranes ou utiliser l'IA pour générer du contenu échappant à la détection. Troisièmement, le projet de loi ne traite pas de la nature internationale de la distribution des deepfakes, car de nombreux deepfakes proviennent de l'extérieur des États-Unis.
De plus, certains juristes ont soutenu que le droit d'action privé pourrait conduire à des poursuites frivoles, et que les dommages-intérêts statutaires de 150 000 dollars sont excessifs. D'autres ont noté que le projet de loi n'exige pas des plateformes qu'elles détectent proactivement les deepfakes, mais seulement qu'elles répondent aux signalements, ce qui pourrait être insuffisant compte tenu de l'échelle du contenu téléchargé quotidiennement. Ces critiques ont informé les efforts législatifs ultérieurs, qui ont cherché à combler certaines de ces lacunes.
Conclusion
La loi sur la responsabilité en matière de deepfakes représente une tentative précoce de réglementer le contenu généré par l'IA au niveau fédéral. Bien qu'elle n'ait pas été adoptée, elle a façonné le discours sur la réglementation des deepfakes et a influencé les efforts tant au niveau des États qu'international. Alors que la technologie de l'IA continue de progresser, le besoin de transparence et de responsabilité dans les médias synthétiques reste pressant, et les principes du projet de loi sont susceptibles de refaire surface dans de futures propositions législatives.