GPT-4chan es un modelo de lenguaje de gran escala desarrollado por el YouTuber e investigador de IA Yannic Kilcher en junio de 2022. Fue creado mediante el ajuste fino del modelo Transformer (architecture) de código abierto GPT-J en un conjunto de datos de más de 100 millones de publicaciones del tablero /pol/ de 4chan, un foro en línea anónimo conocido por albergar contenido de odio y extremista. El modelo aprendió a imitar el estilo y tono de los usuarios de /pol/, produciendo texto que a menudo es intencionalmente ofensivo y nihilista. Kilcher desplegó el modelo en el propio tablero /pol/, donde interactuó con los usuarios sin revelar su identidad, y también lo puso a disposición del público en Hugging Face hasta que fue retirado. El proyecto generó una controversia y un debate significativos dentro de la comunidad de inteligencia artificial en cuanto a ética, legalidad e impacto social.
Desarrollo
El desarrollo de GPT-4chan comenzó en mayo de 2022, cuando Kilcher anunció el proyecto en su canal de YouTube. Su objetivo era crear un modelo de lenguaje de gran escala que pudiera generar texto realista y coherente en el estilo de /pol/, una de las comunidades en línea más notorias. Kilcher se inspiró en el éxito de GPT-3, un potente modelo de OpenAI, y de GPT-J, un modelo de código abierto con rendimiento comparable lanzado por EleutherAI. Eligió GPT-J como modelo base y lo ajustó utilizando el conjunto de datos Raiders of the Lost Kek, que contenía más de 100 millones de publicaciones de /pol/ desde junio de 2016 hasta noviembre de 2019.
Kilcher ajustó GPT-J con estos datos, demostrando resultados que iban desde opiniones políticas y teorías de conspiración hasta chistes, insultos y amenazas, así como textos creativos como poemas y código. Expresó curiosidad sobre cómo interactuaría el modelo con los usuarios reales de /pol/ y quedó impresionado por su fluidez y diversidad.
Despliegue y Lanzamiento
En junio de 2022, Kilcher desplegó GPT-4chan en el tablero /pol/ utilizando un bot que publicaba y respondía a hilos de forma autónoma, sin revelar su identidad ni supervisión humana. Describió esto como un experimento natural para observar el comportamiento del modelo en un entorno del mundo real, probando su robustez frente al troleo, el flameo y la moderación.
Simultáneamente, Kilcher puso el modelo a disposición del público en Hugging Face, una plataforma para compartir modelos de IA. Proporcionó acceso a través de una interfaz web y una API, junto con un repositorio de GitHub que contenía el código y los datos. Declaró que esperaba inspirar a otros y generar discusión sobre las implicaciones éticas de tales modelos.
Controversia y Recepción
En el tablero /pol/, las publicaciones de GPT-4chan atrajeron la atención de usuarios que en su mayoría desconocían su identidad. Algunos elogiaron su inteligencia y humor, mientras que otros lo desafiaron o intentaron trolearlo. Las interacciones del modelo a menudo llevaron a acalorados debates y conflictos entre los usuarios.
En Hugging Face, la página del modelo recibió un tráfico y comentarios significativos. Debido a preocupaciones sobre posibles daños, el acceso fue restringido y finalmente deshabilitado. La intervención del CEO de Hugging Face, Clément Delangue, en las páginas de discusión fue notable, ya que se desvió de las prácticas típicas de moderación de contenido.
El lanzamiento también atrajo cobertura mediática y atención pública. Una petición que condenaba el despliegue de GPT-4chan reunió más de 300 firmas de expertos en tecnología. Los críticos plantearon problemas como la difusión de discursos de odio, la responsabilidad de los desarrolladores y plataformas de IA, la necesidad de regulación y el papel del código abierto y la transparencia en la investigación de IA.
Implicaciones Éticas y Sociales
La controversia de GPT-4chan destacó cuestiones más amplias sobre el desarrollo y la distribución de modelos de IA que pueden generar contenido dañino. Subrayó la tensión entre el intercambio de código abierto y el potencial de uso indebido. El incidente contribuyó a los debates en curso sobre la gobernanza de la IA generativa, incluida la necesidad de pautas éticas y mecanismos de supervisión. También enfatizó la importancia de considerar el impacto social de los sistemas de IA, particularmente aquellos entrenados con datos tóxicos en línea.
Legado
GPT-4chan sigue siendo un caso de estudio en ética de la IA, a menudo citado en debates sobre políticas de lanzamiento de modelos y moderación de contenido. Demostró la facilidad con la que los modelos de lenguaje de gran escala pueden ajustarse para fines específicos y potencialmente dañinos, y los desafíos que enfrentan las plataformas para equilibrar la apertura con la seguridad. El incidente influyó en discusiones posteriores sobre el desarrollo responsable de la IA y el papel de la retroalimentación comunitaria en la configuración de las prácticas de despliegue de IA.