La plainte de l'Authors Guild contre OpenAI, déposée en septembre 2023, constitue un défi juridique majeur dans le domaine de l'intelligence artificielle et de l'IA générative. Rédigée par l'Authors Guild au nom d'un groupe d'écrivains de fiction de premier plan, dont John Grisham, George R.R. Martin et d'autres, la plainte allègue que les grands modèles de langage d'OpenAI ont été entraînés sur des œuvres protégées par le droit d'auteur sans autorisation, violant les droits des auteurs en vertu de la loi américaine sur le droit d'auteur. L'affaire est devenue un point central dans les débats juridiques en cours sur l'intersection de l'apprentissage automatique et de la propriété intellectuelle, car la collecte de données d'entraînement pour les systèmes d'IA implique souvent la reproduction ou la citation d'énormes corpus de textes, y compris des livres, des articles et d'autres œuvres protégées.
Au cœur du litige se trouve la pratique consistant à entraîner des modèles basés sur le Transformer (architecture) sur de vastes ensembles de données. La plainte soutient que l'utilisation non autorisée des œuvres des auteurs, à la fois pour entraîner les modèles et pour générer des sorties qui peuvent ressembler étroitement à ces œuvres ou les reproduire, représente une confiscation directe du travail créatif. Les plaignants demandent diverses réparations, y compris des dommages-intérêts et une injonction contre l'entreprise, soulignant la tension croissante entre l'innovation des technologies d'IA et les protections accordées aux auteurs originaux.
Contexte : L'essor des grands modèles de langage
La base technique des systèmes en cause comprend l'architecture de réseau neuronal connue sous le nom de Transformer (architecture). Introduite dans des recherches publiées par Google DeepMind et initialement dirigée par Jakob Uszkoreit, Lukasz Kaiser et leurs collègues dans l'article de 2017 « Attention Is All You Need », les transformers ont exploité des mécanismes tels que Multi-Head Attention et Positional Encoding pour traiter des données séquentielles, permettant des percées dans la compréhension et la génération du langage naturel. Les modèles de la série GPT d'OpenAI, y compris GPT-3 et GPT-4, sont basés sur ces transformers et sont entraînés sur des corpus massifs, y compris des textes web, des livres et des articles académiques, pour générer un texte de type humain.
L'échelle des données d'entraînement est essentielle aux capacités des modèles. Les grands modèles de langage subissent un entraînement utilisant des algorithmes comme Adam (Optimizer) et des variantes qui ajustent des milliards de paramètres pour minimiser l'erreur sur les tâches de prédiction du mot suivant. Des techniques du domaine plus large de l'apprentissage automatique, telles que Data Augmentation et Batch Normalization (bien que moins souvent dans les transformers), contribuent aux pipelines d'entraînement des mini-modèles. Les modèles sont ensuite parfois ajustés en utilisant Reinforcement Learning from AI Feedback (RLAIF) (apprentissage par renforcement à partir de retours d'IA) ou des retours humains pour améliorer l'alignement avec les attentes des utilisateurs.
Les plaignants et leurs allégations
La plainte, déposée par l'Authors Guild en tant qu'action collective, implique une coalition d'auteurs couvrant divers genres. Les plaignants connus incluent john-grisham, george-r-r-martin, dave-eggers, jodi-picoult, jonathan-franzen et pat-tigret, entre autres. Ils ont soutenu que le processus d'entraînement d'OpenAI, qui implique souvent le scraping ou l'ingestion du texte de leurs livres via ses ensembles de données, constitue une violation directe du droit d'auteur. Les auteurs ont souligné que leur travail créatif est leur gagne-pain et que l'utilisation de leur matériel protégé sans licence a violé leurs droits exclusifs.
Les revendications spécifiques incluent des menaces pour le marché des œuvres des plaignants, arguant que le contenu généré par l'IA pourrait se substituer aux œuvres écrites par des humains, et que les modèles pourraient également produire des sorties dérivées qui concurrenceraient injustement les originaux. Le procès fait la distinction entre l'utilisation légitime de l'IA qui obscurcit ou transforme les œuvres protégées et la copie prétendument non autorisée qui s'est produite pendant le pré-entraînement.
Contexte juridique et affaires antérieures
Aux États-Unis, la loi sur le droit d'auteur protège avec une certaine marge pour l'utilisation équitable. L'IA en litige en attente s'est appuyée sur une défense d'utilisation équitable, comme on l'a vu dans d'autres procès tels que le procès du New York Times contre OpenAI et Microsoft. Cependant, la plainte de l'Authors Guild riposte, citant que toute défense d'utilisation équitable est intenable lorsque les données d'entraînement sont utilisées à une si grande échelle, et lorsque les modèles peuvent mémoriser et reproduire des textes verbatim.
Ce n'est pas la première fois que l'Authors Guild est au centre d'un litige sur le droit d'auteur. La guilde avait été impliquée dans les scans Google Books et Datasail, favorisant le droit de licencier des copies numériques de livres pour l'indexation et la recherche. Cependant, la guilde soutient que l'utilisation commerciale de l'IA diffère matériellement, en raison de la nature commentative des sorties et du préjudice économique potentiel pour les écrivains.
Cadre juridique et revendications présentées
La plainte allègue 8 chefs d'accusation, y compris la violation directe du droit d'auteur, la violation indirecte et les violations de la Digital Millennium Copyright Act (DMCA) pour la suppression des informations de gestion des droits d'auteur. Au centre du texte se trouve la reproduction illicite des œuvres littéraires au cours de l'entraînement des modèles d'IA. Les plaignants demandent la création d'une fiducie équitable pour tout profit qu'OpenAI a tiré du reste des œuvres protégées.
L'affaire se déroule devant le tribunal de district des États-Unis pour le district sud de New York. OpenAI a initialement déposé une motion pour rejeter, mais les procès ont adopté une approche conjointe - des commentateurs savants et industriels de premier plan ont pesé, soulignant les ambiguïtés de responsabilité lors de l'utilisation de données textuelles protégées pour l'apprentissage non supervisé dans les réseaux neuronaux.
Industrie de l'IA et implications plus larges
Le procès est l'une des plusieurs actions collectives déposées contre des entreprises d'IA en 2023. Il est arrivé peu après le dépôt d'août 2023 par Karin Ale et Feng Ming au nom d'une classe proposée d'écrivains et devrait être vu dans une vague de litiges à l'intersection de l'IA et du droit d'auteur. Notamment, d'autres acteurs comme Anthropic, Google DeepMind et Amazon Web Services s'appuient également sur de vastes données pour entraîner des modèles. Pourtant, le litige a soulevé des préoccupations concernant l'exposition juridique qui pourrait façonner les pratiques futures de développement de l'IA - que les entreprises doivent chercher des licences ou modifier leurs stratégies d'entraînement pour éviter les litiges sur le droit d'auteur.
Les dirigeants technologiques et les développeurs ont souligné que les cadres existants comme Gradient Clipping et Learning Rate Scheduling affinent leurs modèles, mais disent que la collecte de données est essentielle ; l'entraînement sur des livres est un moyen, mais il n'y a pas de consensus sur les droits de propriété sur le texte brut. L'affaire soulève de telles questions : Qu'est-ce qui constitue une utilisation équitable lorsqu'un modèle a une mémoire assez grande pour rappeler plus que la sémantique ? Est-ce que Beam Search ou Top-P (Nucleus) Sampling Temperature Scaling à l'inférence pourraient produire des mélanges contrefaisants - des séquences échantillonnées qui rejouent presque un chapitre protégé ?
Affaires connexes et procédures futures
L'affaire de l'Authors Guild n'est pas isolée. En 2024, d'autres actions en attente incluent les litiges collectifs par des comédiens et des photographes contre les plateformes d'IA générative. OpenAI et d'autres acteurs ont des arguments d'utilisation équitable en attente, mais le résultat de la plainte de l'Authors Guild établira un précédent pour l'écosystème des startups, car les startups pourraient avoir besoin de sources de données alternatives, telles que des collections en accès libre ou dûment licenciées.
OpenAI a répondu en partie en commençant à licencier du contenu protégé auprès d'agences de presse importantes et est également signalé comme rencontrant des éditeurs. Cependant, des frictions subsistent. L'action de l'Authors Guild est notable pour sa nature collective - elle encadre le problème comme systémique affectant toute une profession - toute décision qui liera et façonnera les contrats entre les créateurs de contenu et les développeurs d'IA.
Impact sur les écrivains et l'éthique de l'IA
Une préoccupation générale est le déséquilibre économique du paradigme de l'IA. Les critiques soutiennent que puisque les données d'entraînement contiennent largement des œuvres humaines de toutes disciplines, mais que seuls les géants de la technologie profitent, cela représente un modèle commercial déséquilibré. Les romanciers écrivent individuellement avec souvent de faibles marges, et l'utilisation de leur production par une entreprise valorisée à 5 dollars sans compensation crée un déséquilibre. Cela résonne à nouveau avec les débats plus larges sur l'éthique de l'IA concernant le consentement, l'attribution et la curation contestée des données.
Cependant, certains analystes pointent vers le développement de AI21 Labs et Inflection AI comme des modèles qui pourraient équilibrer le changement. L'utilisation de Reinforcement Learning from AI Feedback (RLAIF) pour affiner les modèles a été orientée vers la précision et moins d'erreurs, y compris en matière de droit d'auteur. Mais comme le souligne la plainte, cela ne nie pas la copie ultime elle-même dans l'étape de pré-entraînement.
Regard sur l'infrastructure d'entraînement
À l'incidence, l'entraînement lui-même implique une infrastructure sévèrement grande. Pour traiter d'énormes corpus de Deep learning, les ressources de calcul sont essentielles. Des entreprises comme NVIDIA (fournisseur de matériel) ou l'utilisation réelle de GPU, avec des options sur aws-cloud-equip comme AWS Trainium cloud ou Google Cloud disponibles. L'échelle de récupération des livres en millisecondes pour les poids du modèle est telle que ces entreprises profitent du domaine de l'IA.
Le problème présenté dans le procès pourrait affecter l'industrie du cloud computing, en ce que les procès pourraient dissuader l'investissement dans les applications de modèles multimodaux sur Amazon Web Services et Google Cloud. Les moteurs d'inférence, des plateformes comme Groq qui pensent à une inférence rapide peuvent avoir un rôle, mais l'entraînement inf-e-inference-nodes comme évaluation en focus dans la modélisation du droit d'auteur reste.
Perspectives
Étant donné le stade procédural de l'affaire, aucune décision finale n'est intervenue. Au moment de cet article, le tribunal n'a pas statué sur les motions de rejet. De nombreux observateurs juridiques suivent, cette décision affectera non seulement les parties mais surveillera le paysage plus large du droit d'auteur de l'IA, y compris une éventuelle action législative qui pourrait aborder les licences et la provenance des données à l'avenir.
La plainte de l'Authors Guild contre OpenAI souligne la nervosité à cause d'un domaine dont la culture exacte - des modèles génératifs des articles précédents qui ont apporté du style ou à l'avance de l'entreprise - chevauche maintenant les lois sous lesquelles notre culture, notre film et notre art sont créés. Les tribunaux persuaderont la définition de l'innovation technologique, et modifieront peut-être la trajectoire du développement des grands modèles dans les années 2020. Mais quel que soit le résultat, c'est la preuve que l'intelligence artificielle n'est plus autonome ; elle est tissée dans les cimetières du droit et dans la démographie de ceux dont elle s'entraîne sur la créativité.