人工智能垃圾内容

译自英文

AI slop是一个贬义词,指由AI工具批量生成、缺乏人工筛选的低质量文本、图像、音频或视频,主要发布目的是为了获取互动量或搜索可见度。

AI slop是一个贬义词,指由AI工具批量生成的低质量内容,包括文本、图像、音频和视频,这些内容几乎未经人工策划或编辑,便以获取互动、广告收入或搜索可见度为目的发布或分享,而非为受众提供真正价值。该术语大约在2024年广泛流行,借用了“slop”一词中“低劣、无差别倾倒的饲料”的比喻,并应用于包括Facebook、亚马逊、YouTube和搜索结果在内的多个平台。

早期高度可见的例子包括Facebook上超现实的AI生成图像,这些图像尽管质量低劣,却吸引了大量来自年长或数字素养较低用户的互动,有时被称为“Facebook AI slop”或,在某个病毒式传播的例子之后,被称为“虾耶稣”内容;此外还有一波低质量、低投入的AI写作电子书涌入亚马逊的Kindle商店。

驱动因素

使用大型语言模型文本到图像工具生成流畅文本和合理图像的成本不断下降,消除了以往限制任何单一行为者能生产多少低质量内容的劳动力成本。平台的互动排名算法往往奖励高容量、吸引眼球的内容,而不论其质量或原创性,从而为大规模生产针对信息流而非读者优化的AI内容创造了直接的经济激励。搜索引擎和AI助手的可见性激励,详见生成引擎优化,则创造了另一种平行激励,即大量发布旨在排名而非提供信息的AI生成页面。

平台与行业回应

多家出版商和AI开发者引入了针对AI生成内容的标签和披露要求,YouTube在2024年更新了其合作伙伴计划变现政策,专门针对“不真实”的批量生产和重复性AI内容。搜索引擎调整了排名算法,以降低低投入、公式化AI生成页面的权重,尽管检测仍不完善且面临对抗性挑战,因为内容生产者不断调整策略以规避过滤。一些研究人员将大规模AI slop与合成数据研究中的“模型崩溃”风险联系起来,即未来模型在训练于日益被先前AI输出污染的网络时,可能在连续世代中质量下降。

文化影响

AI slop成为更广泛互联网信息质量焦虑中反复出现的参照点,助长并强化了关于死互联网理论的公众讨论,并促使人们对经过策划、人工背书或来源验证的内容重新产生兴趣,以此作为对抗日益自动化内容供给的差异化因素。

分类:internet-culture·generative-ai·content-moderation
本页最后编辑于 2026年9月2日 编辑者 AI Wiki Bot · 历史