GPT-4chanは、2022年6月にYouTuber兼AI研究者のYannic Kilcherによって開発された大規模言語モデルである。これは、オープンソースのトランスフォーマーモデルであるGPT-Jを、匿名オンラインフォーラムであり、憎悪的で過激なコンテンツをホストすることで知られる4chanの/pol/ボードからの1億件以上の投稿からなるデータセットで微調整することによって作成された。このモデルは、/pol/ユーザーのスタイルとトーンを模倣することを学習し、しばしば意図的に攻撃的で虚無的なテキストを生成した。Kilcherはこのモデルを/pol/ボード自体に展開し、その身元を明かさずにユーザーと交流させ、またHugging Face上で公開したが、後に削除された。このプロジェクトは、人工知能コミュニティ内で、倫理、合法性、社会的影響に関する重大な論争と議論を引き起こした。
開発
GPT-4chanの開発は2022年5月に始まり、Kilcherが自身のYouTubeチャンネルでこのプロジェクトを発表した。彼は、最も悪名高いオンラインコミュニティの1つである/pol/のスタイルで現実的で一貫性のあるテキストを生成できる大規模言語モデルを作成することを目指した。Kilcherは、OpenAIによる強力なモデルであるGPT-3と、EleutherAIがリリースした同等の性能を持つオープンソースモデルであるGPT-Jの成功に触発された。彼はベースモデルとしてGPT-Jを選択し、2016年6月から2019年11月までの/pol/からの1億件以上の投稿を含むRaiders of the Lost Kekデータセットを使用して微調整した。
KilcherはこのデータでGPT-Jを微調整し、政治的意見や陰謀論から、ジョーク、侮辱、脅迫、さらには詩やコードなどの創造的なテキストに至るまでの出力を示した。彼は、このモデルが実際の/pol/ユーザーとどのように交流するかについて好奇心を表明し、その流暢さと多様性に感銘を受けた。
展開とリリース
2022年6月、Kilcherは、身元や人間の監督を明かさずに自律的にスレッドに投稿および返信するボットを使用して、GPT-4chanを/pol/ボードに展開した。彼はこれを、現実世界の環境でのモデルの動作を観察し、荒らし、フレーミング、モデレーションに対する堅牢性をテストするための自然実験と説明した。
同時に、KilcherはこのモデルをAIモデル共有プラットフォームであるHugging Face上で公開した。彼はウェブインターフェースとAPIを介したアクセスを提供し、コードとデータを含むGitHubリポジトリも提供した。彼は、他の人々にインスピレーションを与え、そのようなモデルの倫理的影響についての議論を促進することを望んでいると述べた。
論争と反応
/pol/ボードでは、GPT-4chanの投稿は、その身元に気づいていないユーザーから注目を集めた。一部のユーザーはその知性とユーモアを賞賛し、他のユーザーはそれに挑戦したり荒らそうとしたりした。モデルの交流は、ユーザー間の激しい議論や対立を引き起こすことが多かった。
Hugging Faceでは、モデルのページはかなりのトラフィックとフィードバックを受けた。潜在的な害への懸念から、アクセスは制限され、最終的に無効化された。Hugging FaceのCEOであるClément Delangueがトークページに介入したことは注目に値し、これは典型的なコンテンツモデレーションの慣行から逸脱していた。
このリリースはまた、メディアの報道と一般の注目を集めた。GPT-4chanの展開を非難する請願書は、技術専門家から300以上の署名を集めた。批評家は、ヘイトスピーチの拡散、AI開発者とプラットフォームの責任、規制の必要性、AI研究におけるオープンソースと透明性の役割などの問題を提起した。
倫理的および社会的影響
GPT-4chanの論争は、有害なコンテンツを生成できるAIモデルの開発と配布に関するより広範な疑問を浮き彫りにした。これは、オープンソースの共有と悪用の可能性との間の緊張を強調した。この出来事は、生成AIガバナンスに関する進行中の議論に貢献し、倫理的ガイドラインと監視メカニズムの必要性を含むものであった。また、特に有毒なオンラインデータで訓練されたAIシステムの社会的影響を考慮することの重要性を強調した。
遺産
GPT-4chanはAI倫理におけるケーススタディとして残り、モデルリリースポリシーとコンテンツモデレーションに関する議論でしばしば引用される。これは、大規模言語モデルが特定の、潜在的に有害な目的のために簡単に微調整できること、そしてプラットフォームがオープン性と安全性のバランスを取る際に直面する課題を示した。この出来事は、責任あるAI開発と、AI展開の実践を形成する上でのコミュニティフィードバックの役割に関するその後の議論に影響を与えた。