AI 슬롭(AI slop)은 텍스트, 이미지, 오디오, 비디오를 포함한 저품질 콘텐츠를 경멸적으로 이르는 용어로, 인간의 큐레이션이나 편집 노력이 거의 없는 상태에서 AI 도구로 대량 생성된 후, 진정한 가치보다는 참여율, 광고 수익, 또는 검색 노출을 목적으로 게시되거나 공유되는 콘텐츠를 가리킨다. 이 용어는 2024년경 널리 사용되기 시작했으며, "슬롭(slop)"이라는 단어가 무차별적으로 쏟아내는 저급하고 구분되지 않는 사료(飼料)라는 의미에서 비롯된 비유를 사용한다. 페이스북, 아마존, 유튜브, 검색 결과를 포함한 여러 플랫폼에서 적용되었다.
초기의 가시적인 사례로는 페이스북에서 유포된 초현실적인 AI 생성 이미지가 있었는데, 이는 고령자나 디지털 리터러시가 낮은 사용자들 사이에서 큰 참여를 유도했으며, 때로는 "페이스북 AI 슬롭" 또는 하나의 바이럴 사례에서 유래한 "슈림프 예수(Shrimp Jesus)" 콘텐츠라고 불렸다. 또한 아마존 킨들 스토어를 범람시킨 저노력의 AI 작성 전자책 물결도 포함되었다.
원인
유창한 텍스트와 그럴듯한 이미지를 생성하는 데 드는 비용이 하락하면서, 대규모 언어 모델과 텍스트-이미지 도구를 사용해 저품질 콘텐츠를 대량 생산할 수 있는 노동 비용이 사라졌다. 이전에는 이러한 비용이 단일 행위자가 생산할 수 있는 저품질 콘텐츠의 양을 제한했었다. 플랫폼의 참여율 기반 순위 알고리즘은 품질이나 독창성과 관계없이 대량의 관심을 끄는 콘텐츠에 보상을 제공하여, 독자가 아닌 피드를 위해 최적화된 AI 콘텐츠를 대량 생산할 직접적인 금전적 인센티브를 만들었다. 검색 엔진 및 AI 어시스턴트의 노출 인센티브는 생성 엔진 최적화 아래에서 논의되며, 정보 제공이 아닌 순위를 목표로 하는 대량의 AI 생성 페이지를 게시하도록 하는 병행 인센티브를 조성했다.
플랫폼 및 업계 대응
여러 게시자와 AI 개발업체는 AI 생성 콘텐츠에 대한 라벨링 및 공개 요건을 도입했으며, 유튜브는 2024년 파트너 프로그램 수익 창출 정책을 업데이트하여 "비정통적인" 대량 생산 및 반복적인 AI 콘텐츠를 구체적으로 다루기 시작했다. 검색 엔진은 순위 알고리즘을 조정하여 저노력의 정형화된 AI 생성 페이지를 하향 조정했지만, 콘텐츠 제작자가 필터를 회피하기 위해 적응하면서 탐지 시스템은 여전히 불완전하고 적대적 환경에 놓여 있다. 일부 연구자들은 대규모 AI 슬롭을 합성 데이터 연구의 "모델 붕괴" 위험과 연결하고 있다. 이는 이전 AI 출력물로 점점 오염된 웹에서 훈련된 미래 모델이 세대를 거듭할수록 품질이 저하될 수 있다는 시나리오를 의미한다.
문화적 영향
AI 슬롭은 인터넷 정보 품질에 대한 광범위한 불안 속에서 반복적으로 언급되는 참조점이 되었으며, 죽은 인터넷 이론에 대한 대중적 논의를 부추기고 강화했다. 또한 점점 자동화되는 콘텐츠 공급에 대응하기 위한 차별화 요소로, 큐레이션된 콘텐츠, 인간이 검증한 콘텐츠, 또는 출처가 확인된 콘텐츠에 대한 관심을 새롭게 불러일으켰다.