La demanda de Authors Guild contra OpenAI, presentada en septiembre de 2023, es un desafío legal significativo en el campo de la inteligencia artificial y la IA generativa. Redactada por el Authors Guild en nombre de un grupo de destacados escritores de ficción, incluidos John Grisham, George R.R. Martin y otros, la demanda alega que los modelos de lenguaje grandes de OpenAI fueron entrenados con obras protegidas por derechos de autor sin autorización, violando los derechos de los autores bajo la ley de derechos de autor de EE. UU. El caso se ha convertido en un punto focal en los debates legales en curso sobre la intersección del aprendizaje automático y la propiedad intelectual, ya que la recopilación de datos de entrenamiento para sistemas de IA a menudo implica reproducir o citar enormes corpus de texto, incluidos libros, artículos y otras obras protegidas.
En el centro de la disputa se encuentra la práctica de entrenar modelos basados en Transformer (architecture) con conjuntos de datos vastos. La demanda sostiene que el uso no autorizado de las obras de los autores, tanto para entrenar los modelos como para generar resultados que pueden parecerse mucho o reproducir esas obras, representa una confiscación directa del trabajo creativo. Los demandantes buscan diversos remedios, incluidos daños y medidas cautelares contra la empresa, lo que subraya la creciente tensión entre la innovación de las tecnologías de IA y las protecciones otorgadas a los autores originales.
Antecedentes: El auge de los modelos de lenguaje grandes
La base técnica de los sistemas en cuestión incluye la arquitectura de red neuronal conocida como Transformer (architecture). Introducida en investigaciones publicadas por Google DeepMind y liderada originalmente por Jakob Uszkoreit, Lukasz Kaiser y colegas en el artículo de 2017 'Attention Is All You Need', los transformers aprovecharon mecanismos como Multi-Head Attention y Positional Encoding para procesar datos secuenciales, lo que permitió avances en la comprensión y generación del lenguaje natural. Los modelos de la serie GPT de OpenAI, incluidos GPT-3 y GPT-4, se basan en estos transformers y se entrenan con corpus masivos, incluidos textos web, libros y artículos académicos, para generar texto similar al humano.
La escala de los datos de entrenamiento es clave para las capacidades de los modelos. Los modelos de lenguaje grandes se someten a entrenamiento utilizando algoritmos como Adam (Optimizer) y variaciones que ajustan miles de millones de parámetros para minimizar el error en tareas de predicción de la siguiente palabra. Técnicas del campo más amplio del aprendizaje automático, como Data Augmentation y Batch Normalization (aunque menos frecuentes en transformers), contribuyen a los pipelines de entrenamiento de mini-modelos. Luego, los modelos a veces se ajustan utilizando Reinforcement Learning from AI Feedback (RLAIF) (Aprendizaje por Refuerzo a partir de Retroalimentación de IA) o retroalimentación humana para mejorar la alineación con las expectativas de los usuarios.
Los demandantes y sus alegaciones
La demanda, presentada por el Authors Guild como acción colectiva, involucra una coalición de autores de diversos géneros. Entre los demandantes conocidos se incluyen john-grisham, george-r-r-martin, dave-eggers, jodi-picoult, jonathan-franzen y pat-tigret, entre otros. Sostuvieron que el proceso de entrenamiento de OpenAI, que a menudo implica extraer o ingerir el texto de sus libros a través de sus conjuntos de datos, constituye una infracción directa de derechos de autor. Los autores subrayaron que su trabajo creativo es su sustento y que el uso de su material protegido sin licencia infringió sus derechos exclusivos.
Las afirmaciones específicas incluyen amenazas al mercado de las obras de los demandantes, argumentando que el contenido generado por IA podría sustituir a las obras escritas por humanos, y que los modelos también podrían producir resultados derivados que competirían injustamente con los originales. La demanda distingue entre el uso legítimo de la IA que oscurece o transforma obras protegidas y la copia supuestamente no autorizada que ocurrió durante el preentrenamiento.
Contexto legal y casos previos
En EE. UU., la ley de derechos de autor protege con cierto margen para el uso justo. La litigación pendiente de IA se ha basado en una defensa de uso justo, como se ve en otras demandas, como la del New York Times contra OpenAI y Microsoft. Sin embargo, la demanda del Authors Guild contraataca, citando que cualquier defensa de uso justo es insostenible cuando los datos de entrenamiento se utilizan a tan gran escala y cuando los modelos pueden memorizar y reproducir textos palabra por palabra.
Esta no es la primera vez que el Authors Guild está en el centro de una disputa de derechos de autor. El gremio había estado involucrado en los escaneos de Google Books y Datasail, favoreciendo el derecho a licenciar copias digitales de libros para indexación y búsqueda. Sin embargo, el gremio sostiene que el uso comercial de la IA difiere materialmente, debido a la naturaleza de los resultados y el posible daño económico a los escritores.
Marco legal y afirmaciones presentadas
La demanda presenta 8 cargos, incluida la infracción directa de derechos de autor, la infracción vicaria y violaciones de la Ley de Derechos de Autor del Milenio Digital (DMCA) por la eliminación de información de gestión de derechos de autor. Central en el texto es la reproducción ilegal de las obras literarias durante el entrenamiento de los modelos de IA. Los demandantes solicitan la creación de un fideicomiso equitativo para cualquier beneficio que OpenAI haya obtenido del resto de las obras protegidas.
El caso se tramita en el Tribunal de Distrito de los Estados Unidos para el Distrito Sur de Nueva York. OpenAI inicialmente presentó una moción para desestimar, pero las demandas se han abordado de manera conjunta. Comentaristas académicos y de la industria prominentes han opinado, destacando las ambigüedades de responsabilidad al usar datos textuales protegidos por derechos de autor para el aprendizaje no supervisado en redes neuronales.
Industria de la IA e implicaciones más amplias
La demanda es una de varias acciones colectivas presentadas contra empresas de IA en 2023. Llegó poco después de la presentación de agosto de 2023 por Karin Ale y Feng Ming en nombre de una clase propuesta de escritores y debe verse dentro de una ola de litigios en la intersección de la IA y los derechos de autor. En particular, otros actores como Anthropic, Google DeepMind y Amazon Web Services también dependen de vastos datos para entrenar modelos. Sin embargo, la disputa ha planteado preocupaciones sobre la exposición legal que podría dar forma a las futuras prácticas de desarrollo de IA - si las empresas deben buscar licencias o modificar sus estrategias de entrenamiento para evitar litigios de derechos de autor.
Ejecutivos y desarrolladores de tecnología han señalado que los marcos existentes como Gradient Clipping y Learning Rate Scheduling ajustan sus modelos, pero dicen que la recopilación de datos es esencial; entrenar con libros es una forma de hacerlo, pero no existe consenso sobre los derechos de propiedad sobre el texto bruto. El caso plantea preguntas como: ¿Qué constituye uso justo cuando la memoria de un modelo es lo suficientemente grande como para recordar más que semántica? ¿Podría el Beam Search o Top-P (Nucleus) Sampling Temperature Scaling en la inferencia producir mezclas infractoras - secuencias muestreadas que casi reproducen un capítulo protegido?
Casos relacionados y procedimientos futuros
El caso del Authors Guild no está solo. A partir de 2024, otras acciones pendientes incluyen litigios de acción colectiva por comediantes y fotógrafos contra plataformas de IA generativa. OpenAI y otros actores tienen argumentos de uso justo pendientes, pero el resultado de la demanda del Authors Guild sentará un precedente para el ecosistema de startups, ya que las startups pueden necesitar fuentes de datos alternativas, como colecciones de acceso abierto o debidamente licenciadas.
OpenAI ha respondido en parte comenzando a licenciar contenido protegido de agencias de noticias importantes y también se informa que se está reuniendo con editores. Sin embargo, la fricción permanece. La acción del Authors Guild es notable por su naturaleza colectiva - enmarca el problema como sistémico que afecta a toda una ocupación - cualquier fallo vinculará y dará forma a los contratos entre creadores de contenido y desarrolladores de IA.
Impacto en escritores y ética de la IA
Una preocupación general es el sesgo económico del paradigma de la IA. Los críticos argumentan que, dado que los datos de entrenamiento contienen ampliamente obras humanas de todas las disciplinas, pero solo los gigantes tecnológicos se benefician, esto representa un modelo de negocio desequilibrado. Los novelistas escriben individualmente con márgenes a menudo reducidos, y el uso de su producción por parte de una empresa valorada en $5 sin compensación crea un desequilibrio. Esto resuena nuevamente con debates más amplios sobre ética de la IA sobre consentimiento, atribución y curación de datos en disputa.
Sin embargo, algunos analistas señalan el desarrollo de AI21 Labs y Inflection AI como modelos que pueden equilibrar el cambio. El uso de Reinforcement Learning from AI Feedback (RLAIF) para refinar modelos se ha orientado hacia la precisión y menos errores, incluso en asuntos de derechos de autor. Pero como enfatiza la demanda, eso no niega la copia final en sí misma en la etapa de preentrenamiento.
Mirando la infraestructura de entrenamiento
En incidencia, el entrenamiento en sí mismo involucra una infraestructura grande y separable. Para procesar corpus gigantes de Deep learning, los recursos informáticos son clave. Empresas como NVIDIA (proveedor de hardware) o el uso real de GPU, con opciones en equipos de nube como AWS Trainium o Google Cloud disponibles. La escala de obtención de libros en milisegundos a pesos de modelo es tal que esas empresas se benefician del dominio de la IA.
El problema presentado en la demanda podría afectar a la industria de la computación en la nube, ya que las demandas podrían disuadir la inversión en aplicaciones de modelos multimodales en Amazon Web Services y Google Cloud. Los motores de inferencia, plataformas como Groq que piensan en inferencia rápida pueden tener un papel, pero los nodos de entrenamiento e inferencia como evaluación en el modelado de derechos de autor siguen siendo un enfoque.
Perspectivas
Dada la etapa procesal del asunto, no se ha tomado una decisión final. A partir de este artículo, el tribunal no ha fallado sobre las mociones para desestimar. Muchos observadores legales siguen de cerca que esta decisión afectará no solo a las partes, sino que también monitoreará el panorama más amplio de los derechos de autor en la IA, incluida una posible acción legislativa que pueda abordar el licenciamiento y la procedencia de los datos en el futuro.
La demanda de Authors Guild contra OpenAI subraya la inquietud debido a un dominio cuya cultura exacta - desde los modelos generativos de los artículos anteriores que han traído estilo o avance en la empresa - ahora se superpone con las leyes bajo las cuales se crean nuestra cultura, cine y arte. Los tribunales influirán en la definición de innovación tecnológica y posiblemente alterarán la trayectoria del desarrollo de modelos grandes en la década de 2020. Pero cualquiera que sea el resultado, es evidencia de que la inteligencia artificial ya no es autónoma; está tejida en las complejidades de la ley y en la demografía de aquellos cuya creatividad entrena.