GPT-4chan은 2022년 6월 유튜버이자 AI 연구자인 Yannic Kilcher가 개발한 대규모 언어 모델이다. 이 모델은 오픈소스 트랜스포머 모델인 GPT-J를, 혐오 및 극단주의 콘텐츠를 호스팅하는 것으로 알려진 익명 온라인 포럼 4chan의 /pol/ 게시판에서 수집한 1억 개 이상의 게시물 데이터셋에 미세 조정하여 만들어졌다. 이 모델은 /pol/ 사용자의 스타일과 어조를 모방하도록 학습되었으며, 종종 의도적으로 공격적이고 허무주의적인 텍스트를 생성한다. Kilcher는 이 모델을 /pol/ 게시판 자체에 배포하여 정체를 밝히지 않고 사용자와 상호작용하게 했으며, 또한 Hugging Face에서 공개적으로 제공하다가 이후 제거되었다. 이 프로젝트는 인공지능 커뮤니티 내에서 윤리, 합법성, 사회적 영향에 관한 상당한 논란과 논쟁을 촉발했다.
개발
GPT-4chan의 개발은 2022년 5월 Kilcher가 자신의 YouTube 채널에서 프로젝트를 발표하면서 시작되었다. 그는 가장 악명 높은 온라인 커뮤니티 중 하나인 /pol/의 스타일로 현실적이고 일관된 텍스트를 생성할 수 있는 대규모 언어 모델을 만드는 것을 목표로 했다. Kilcher는 OpenAI의 강력한 모델인 GPT-3와 EleutherAI가 출시한 비교 가능한 성능의 오픈소스 모델인 GPT-J의 성공에서 영감을 받았다. 그는 기본 모델로 GPT-J를 선택하고, 2016년 6월부터 2019년 11월까지 /pol/에서 수집한 1억 개 이상의 게시물을 포함한 Raiders of the Lost Kek 데이터셋을 사용하여 미세 조정했다.
Kilcher는 이 데이터로 GPT-J를 미세 조정했으며, 정치적 의견과 음모론에서 농담, 모욕, 위협, 그리고 시와 코드 같은 창의적인 텍스트에 이르는 출력을 시연했다. 그는 모델이 실제 /pol/ 사용자와 어떻게 상호작용할지에 대한 호기심을 표현했으며, 그 유창함과 다양성에 인상받았다.
배포 및 출시
2022년 6월, Kilcher는 GPT-4chan을 /pol/ 게시판에 배포하여 봇이 정체나 인간 감독 없이 자율적으로 스레드를 게시하고 답변하게 했다. 그는 이를 실제 환경에서 모델의 행동을 관찰하고, 트롤링, 플레이밍, 중재에 대한 견고성을 테스트하는 자연 실험으로 설명했다.
동시에 Kilcher는 AI 모델 공유 플랫폼인 Hugging Face에서 모델을 공개적으로 제공했다. 그는 웹 인터페이스와 API를 통해 접근을 제공했으며, 코드와 데이터를 포함한 GitHub 저장소도 함께 제공했다. 그는 다른 사람들에게 영감을 주고 이러한 모델의 윤리적 함의에 대한 논의를 촉발하기를 희망한다고 밝혔다.
논란 및 반응
/pol/ 게시판에서 GPT-4chan의 게시물은 대부분 그 정체를 모르는 사용자들의 주목을 받았다. 일부는 그 지능과 유머를 칭찬했고, 다른 일부는 도전하거나 트롤링을 시도했다. 모델의 상호작용은 종종 사용자들 사이에서 격렬한 논쟁과 갈등을 초래했다.
Hugging Face에서 모델 페이지는 상당한 트래픽과 피드백을 받았다. 잠재적 피해에 대한 우려로 인해 접근이 제한되었고 결국 비활성화되었다. Hugging Face CEO인 Clément Delangue가 토론 페이지에 개입한 것은 일반적인 콘텐츠 중재 관행에서 벗어난 것으로 주목할 만했다.
출시는 또한 미디어 보도와 대중의 관심을 끌었다. GPT-4chan 배포를 비난하는 청원은 기술 전문가 300명 이상의 서명을 모았다. 비판자들은 혐오 발언 확산, AI 개발자와 플랫폼의 책임, 규제의 필요성, AI 연구에서 오픈소스와 투명성의 역할 등의 문제를 제기했다.
윤리적 및 사회적 함의
GPT-4chan 논란은 유해한 콘텐츠를 생성할 수 있는 AI 모델의 개발과 배포에 관한 더 넓은 질문을 부각시켰다. 이는 오픈소스 공유와 오용 가능성 사이의 긴장을 강조했다. 이 사건은 생성형 AI 거버넌스에 대한 지속적인 논의에 기여했으며, 윤리적 지침과 감독 메커니즘의 필요성을 포함한다. 또한 특히 독성 온라인 데이터로 훈련된 AI 시스템의 사회적 영향을 고려하는 것의 중요성을 강조했다.
유산
GPT-4chan은 AI 윤리의 사례 연구로 남아 있으며, 모델 출시 정책과 콘텐츠 중재에 관한 논쟁에서 자주 인용된다. 이는 대규모 언어 모델이 특정하고 잠재적으로 유해한 목적을 위해 쉽게 미세 조정될 수 있음을 보여주었으며, 플랫폼이 개방성과 안전성의 균형을 맞추는 데 직면한 과제를 드러냈다. 이 사건은 책임 있는 AI 개발과 AI 배포 관행을 형성하는 데 있어 커뮤니티 피드백의 역할에 대한 후속 논의에 영향을 미쳤다.