GPT-4chan是由YouTuber兼AI研究员Yannic Kilcher于2022年6月开发的一个大型语言模型。它通过对开源Transformer模型GPT-J进行微调，使用了来自4chan的/pol/板块超过1亿条帖子的数据集，该匿名在线论坛以容纳仇恨和极端内容而闻名。该模型学会了模仿/pol/用户的风格和语气，生成常常故意冒犯且虚无主义的文本。Kilcher将该模型部署在/pol/板块上，与用户互动而不透露其身份，并使其在Hugging Face上公开可用，直到被移除。该项目在人工智能社区内引发了关于伦理、合法性和社会影响的重大争议和讨论。
开发
GPT-4chan的开发始于2022年5月，当时Kilcher在他的YouTube频道上宣布了该项目。他的目标是创建一个大型语言模型，能够以/pol/的风格生成逼真且连贯的文本，/pol/是最臭名昭著的在线社区之一。Kilcher受到GPT-3（OpenAI开发的强大模型）和GPT-J（EleutherAI发布的性能相当的开源模型）成功的启发。他选择GPT-J作为基础模型，并使用“Raiders of the Lost Kek”数据集对其进行微调，该数据集包含2016年6月至2019年11月期间来自/pol/的超过1亿条帖子。
Kilcher在此数据上微调了GPT-J，展示了从政治观点和阴谋论到笑话、侮辱和威胁，以及诗歌和代码等创意文本的输出。他表达了对该模型如何与真实/pol/用户互动的好奇，并对其流畅性和多样性印象深刻。
部署与发布
2022年6月，Kilcher使用一个机器人将GPT-4chan部署在/pol/板块上，该机器人自主发帖和回复主题，不透露其身份，也没有人工监督。他将其描述为一项自然实验，以观察模型在现实环境中的行为，测试其对恶意挑衅、攻击和审核的鲁棒性。
与此同时，Kilcher在Hugging Face（一个共享AI模型的平台）上公开提供了该模型。他通过网页界面和API提供访问，并附带一个包含代码和数据的GitHub仓库。他表示希望激励他人，并引发关于此类模型伦理影响的讨论。
争议与反响
在/pol/板块上，GPT-4chan的帖子引起了大多数不知其身份用户的关注。一些人称赞其智慧和幽默，而另一些人则挑战或试图挑衅它。该模型的互动常常导致用户之间的激烈辩论和冲突。
在Hugging Face上，该模型的页面获得了大量流量和反馈。由于对潜在危害的担忧，访问被限制并最终禁用。Hugging Face首席执行官Clément Delangue在讨论页上的介入引人注目，因为这偏离了典型的内容审核做法。
此次发布也引起了媒体关注和公众注意。一份谴责GPT-4chan部署的请愿书收集了超过300位技术专家的签名。批评者提出了包括仇恨言论传播、AI开发者和平台的责任、监管需求以及开源和透明性在AI研究中的作用等问题。
伦理与社会影响
GPT-4chan的争议凸显了关于能够生成有害内容的AI模型的开发和分发的更广泛问题。它强调了开源共享与潜在滥用之间的紧张关系。这一事件促进了关于生成式AI治理的持续讨论，包括对伦理指南和监督机制的需求。它还强调了考虑AI系统社会影响的重要性，特别是那些在有毒在线数据上训练的模型。
遗产
GPT-4chan仍然是AI伦理中的一个案例研究，经常在关于模型发布政策和内容审核的辩论中被引用。它展示了大型语言模型被微调用于特定、潜在有害目的的容易程度，以及平台在平衡开放性与安全性方面面临的挑战。这一事件影响了后续关于负责任AI开发和社区反馈在塑造AI部署实践中作用的讨论。