KI-Slop ist ein abwertender Begriff für minderwertige Inhalte, einschließlich Text, Bildern, Audio und Video, die in großen Mengen von KI-Tools mit geringer menschlicher Kuratierung oder redaktionellem Aufwand erzeugt und dann veröffentlicht oder geteilt werden, mit dem Ziel, Engagement, Werbeeinnahmen oder Suchsichtbarkeit zu erzeugen, anstatt echten Wert für ein Publikum zu bieten. Der Begriff kam um 2024 in weit verbreiteten Gebrauch und zog eine Analogie zu „Slop“ als minderwertigem, undifferenziertem Futter, das wahllos ausgeschüttet wird, und wurde auf Plattformen wie Facebook, Amazon, YouTube und Suchergebnissen angewendet.
Zu den sehr sichtbaren frühen Beispielen gehörten surreale KI-generierte Bilder auf Facebook, die dennoch große Mengen an Engagement von älteren oder weniger digital versierten Nutzern anzogen, manchmal als „Facebook-KI-Slop“ oder, nach einem viralen Beispiel, als „Shrimp-Jesus“-Inhalte bezeichnet, sowie eine Welle von mühelos geschriebenen KI-E-Books, die den Kindle-Store von Amazon überschwemmten.
Treiber
Die sinkenden Kosten für die Erzeugung flüssiger Texte und plausibler Bilder mit großen Sprachmodellen und Text-zu-Bild-Werkzeugen beseitigten die Arbeitskosten, die zuvor begrenzt hatten, wie viel minderwertigen Inhalt ein einzelner Akteur produzieren konnte. Die Engagement-Ranking-Algorithmen von Plattformen belohnen oft hochvolumige, aufmerksamkeitsstarke Inhalte, unabhängig von Qualität oder Originalität, was einen direkten finanziellen Anreiz schafft, KI-Inhalte in Massen zu produzieren, die für den Feed optimiert sind, anstatt für Leser. Die Anreize für Sichtbarkeit in Suchmaschinen und KI-Assistenten, die unter generative Engine-Optimierung diskutiert werden, schufen einen parallelen Anreiz, große Mengen KI-generierter Seiten zu veröffentlichen, die auf Ranking statt auf Information abzielen.
Plattform- und Branchenreaktionen
Mehrere Verlage und KI-Entwickler führten Kennzeichnungs- und Offenlegungspflichten für KI-generierte Inhalte ein, und YouTube aktualisierte 2024 seine Monetarisierungsrichtlinien für das Partnerprogramm, um speziell „unauthentische“ massenproduzierte und repetitive KI-Inhalte zu adressieren. Suchmaschinen passten Ranking-Algorithmen an, um mühelose, formelhafte KI-generierte Seiten herabzustufen, obwohl die Erkennung unvollkommen und konfrontativ blieb, da Inhaltsproduzenten sich anpassten, um Filter zu umgehen. Einige Forscher haben großflächigen KI-Slop mit dem Risiko des „Modellkollaps“ in der synthetische Daten-Forschung in Verbindung gebracht, bei dem zukünftige Modelle, die auf einem zunehmend durch frühere KI-Ausgaben verschmutzten Web trainiert werden, über aufeinanderfolgende Generationen an Qualität verlieren könnten.
Kulturelle Auswirkungen
KI-Slop wurde zu einem wiederkehrenden Bezugspunkt in breiteren Ängsten über die Informationsqualität des Internets, speiste die populäre Diskussion über die Dead-Internet-Theorie und verstärkte sie, und weckte erneutes Interesse an kuratierten, von Menschen beglaubigten oder herkunftsverifizierten Inhalten als Unterscheidungsmerkmal gegen ein zunehmend automatisiertes Inhaltsangebot.