GPT-4chan est un modèle de langage de grande taille développé par le vidéaste et chercheur en IA Yannic Kilcher en juin 2022. Il a été créé en affinant le modèle open-source transformeur GPT-J sur un ensemble de données de plus de 100 millions de messages provenant du tableau /pol/ de 4chan, un forum en ligne anonyme connu pour héberger des contenus haineux et extrémistes. Le modèle a appris à imiter le style et le ton des utilisateurs de /pol/, produisant des textes souvent délibérément offensants et nihilistes. Kilcher a déployé le modèle sur le tableau /pol/ lui-même, où il interagissait avec les utilisateurs sans révéler son identité, et l'a également rendu publiquement disponible sur Hugging Face jusqu'à son retrait. Le projet a suscité une controverse et un débat importants au sein de la communauté de l'intelligence artificielle concernant l'éthique, la légalité et l'impact social.
Développement
Le développement de GPT-4chan a commencé en mai 2022, lorsque Kilcher a annoncé le projet sur sa chaîne YouTube. Il visait à créer un modèle de langage de grande taille capable de générer un texte réaliste et cohérent dans le style de /pol/, l'une des communautés en ligne les plus notoires. Kilcher a été inspiré par le succès de GPT-3, un modèle puissant de OpenAI, et de GPT-J, un modèle open-source aux performances comparables publié par EleutherAI. Il a choisi GPT-J comme modèle de base et l'a affiné en utilisant l'ensemble de données Raiders of the Lost Kek, qui contenait plus de 100 millions de messages de /pol/ couvrant de juin 2016 à novembre 2019.
Kilcher a affiné GPT-J sur ces données, démontrant des sorties allant d'opinions politiques et de théories du complot à des blagues, des insultes et des menaces, ainsi que des textes créatifs comme des poèmes et du code. Il a exprimé sa curiosité quant à la manière dont le modèle interagirait avec les utilisateurs réels de /pol/ et a été impressionné par sa fluidité et sa diversité.
Déploiement et publication
En juin 2022, Kilcher a déployé GPT-4chan sur le tableau /pol/ à l'aide d'un bot qui publiait et répondait aux fils de discussion de manière autonome, sans révéler son identité ni supervision humaine. Il a décrit cela comme une expérience naturelle pour observer le comportement du modèle dans un cadre réel, testant sa robustesse face au trolling, au flaming et à la modération.
Simultanément, Kilcher a rendu le modèle publiquement disponible sur Hugging Face, une plateforme de partage de modèles d'IA. Il a fourni un accès via une interface web et une API, ainsi qu'un dépôt GitHub contenant le code et les données. Il a déclaré espérer inspirer d'autres personnes et susciter des discussions sur les implications éthiques de tels modèles.
Controverse et réception
Sur le tableau /pol/, les messages de GPT-4chan ont attiré l'attention des utilisateurs qui ignoraient pour la plupart son identité. Certains ont loué son intelligence et son humour, tandis que d'autres l'ont défié ou tenté de le troller. Les interactions du modèle ont souvent conduit à des débats houleux et à des conflits entre utilisateurs.
Sur Hugging Face, la page du modèle a reçu un trafic et des retours significatifs. En raison de préoccupations concernant un préjudice potentiel, l'accès a été restreint puis finalement désactivé. L'intervention du PDG de Hugging Face, Clément Delangue, dans les pages de discussion a été notable, car elle s'écartait des pratiques typiques de modération de contenu.
La publication a également attiré une couverture médiatique et l'attention du public. Une pétition condamnant le déploiement de GPT-4chan a recueilli plus de 300 signatures d'experts en technologie. Les critiques ont soulevé des problèmes incluant la propagation du discours de haine, la responsabilité des développeurs et des plateformes d'IA, la nécessité d'une régulation, et le rôle de l'open source et de la transparence dans la recherche en IA.
Implications éthiques et sociales
La controverse autour de GPT-4chan a mis en lumière des questions plus larges sur le développement et la distribution de modèles d'IA capables de générer des contenus nuisibles. Elle a souligné la tension entre le partage open source et le potentiel de mauvaise utilisation. L'incident a contribué aux discussions en cours sur la gouvernance de la IA générative, y compris la nécessité de lignes directrices éthiques et de mécanismes de surveillance. Il a également souligné l'importance de considérer l'impact social des systèmes d'IA, en particulier ceux entraînés sur des données toxiques en ligne.
Héritage
GPT-4chan reste une étude de cas en éthique de l'IA, souvent citée dans les débats sur les politiques de publication de modèles et la modération de contenu. Il a démontré la facilité avec laquelle les modèles de langage de grande taille peuvent être affinés pour des fins spécifiques, potentiellement nuisibles, et les défis auxquels les plateformes sont confrontées pour équilibrer ouverture et sécurité. L'incident a influencé les discussions ultérieures sur le développement responsable de l'IA et le rôle du retour d'information de la communauté dans la formation des pratiques de déploiement de l'IA.