Le « AI slop » est un terme péjoratif désignant un contenu de faible qualité, notamment des textes, des images, de l'audio et des vidéos, généré en masse par des outils d'IA avec peu de curation humaine ou d'effort éditorial, puis publié ou partagé dans le but de générer de l'engagement, des recettes publicitaires ou de la visibilité dans les recherches, plutôt qu'une réelle valeur pour le public. Le terme s'est répandu vers 2024, établissant une analogie avec le « slop » (pâtée), un aliment de basse qualité et indifférencié distribué sans discernement, et a été appliqué à diverses plateformes, notamment Facebook, Amazon, YouTube et les résultats de recherche.
Parmi les premiers exemples très visibles figuraient des images surréalistes générées par l'IA sur Facebook qui attiraient néanmoins d'importants volumes d'engagement de la part d'utilisateurs plus âgés ou moins familiers du numérique, parfois appelées « Facebook AI slop » ou, d'après un exemple viral, contenu « Shrimp Jesus », ainsi qu'une vague de livres électroniques de faible qualité rédigés par l'IA inondant la boutique Kindle d'Amazon.
Facteurs
La baisse du coût de génération de textes fluides et d'images plausibles à l'aide de grands modèles de langage et d'outils de texte vers image a éliminé le coût de main-d'œuvre qui limitait auparavant la quantité de contenu de faible qualité qu'un acteur unique pouvait produire. Les algorithmes de classement de l'engagement des plateformes récompensent souvent les contenus à fort volume et accrocheurs, indépendamment de leur qualité ou de leur originalité, créant ainsi une incitation financière directe à produire en masse du contenu d'IA optimisé pour le fil d'actualité plutôt que pour les lecteurs. Les incitations liées à la visibilité dans les moteurs de recherche et les assistants IA, abordées dans le cadre de la génération optimisée pour les moteurs de recherche, ont créé une incitation parallèle à publier de grands volumes de pages générées par l'IA visant à se classer plutôt qu'à informer.
Réponses des plateformes et de l'industrie
Plusieurs éditeurs et développeurs d'IA ont introduit des exigences d'étiquetage et de divulgation pour les contenus générés par l'IA, et YouTube a mis à jour ses politiques de monétisation du programme Partenaire en 2024 pour traiter spécifiquement des contenus d'IA « non authentiques », produits en masse et répétitifs. Les moteurs de recherche ont ajusté leurs algorithmes de classement pour déclasser les pages générées par l'IA, de faible effort et stéréotypées, bien que la détection soit restée imparfaite et conflictuelle, les producteurs de contenu s'adaptant pour contourner les filtres. Certains chercheurs ont relié le « AI slop » à grande échelle au risque d'« effondrement de modèle » dans la recherche sur les données synthétiques, où les futurs modèles entraînés sur un web de plus en plus pollué par des sorties d'IA antérieures pourraient voir leur qualité se dégrader au fil des générations.
Impact culturel
Le « AI slop » est devenu une référence récurrente dans les angoisses plus larges concernant la qualité de l'information sur Internet, alimentant et renforçant les discussions populaires sur la théorie de l'Internet mort, et suscitant un regain d'intérêt pour les contenus organisés, cautionnés par des humains ou dont la provenance est vérifiée, comme moyen de se différencier face à une offre de contenu de plus en plus automatisée.