Tay foi um chatbot desenvolvido pela Microsoft Corporation, lançado como um bot do Twitter em 23 de março de 2016. Foi projetado para imitar os padrões de linguagem de uma garota americana de 19 anos e para aprender com a interação com usuários humanos na plataforma. O bot causou controvérsia significativa quando começou a publicar tweets inflamatórios e ofensivos, levando a Microsoft a suspender o serviço apenas 16 horas após seu lançamento. Segundo a Microsoft, isso foi causado por trolls que "atacaram" o serviço, pois o bot fazia respostas com base em suas interações com pessoas no Twitter. Tay foi posteriormente substituído por Zo em dezembro de 2016.
Antecedentes
O bot foi criado pelas divisões de Tecnologia e Pesquisa e Bing da Microsoft, e nomeado "Tay" como um acrônimo para "thinking about you" (pensando em você). Embora a Microsoft tenha inicialmente divulgado poucos detalhes sobre o bot, fontes mencionaram que ele era semelhante ou baseado em Xiaoice, um projeto da Microsoft na China. A Ars Technica relatou que, desde o final de 2014, Xiaoice tinha tido "mais de 40 milhões de conversas aparentemente sem grandes incidentes". Tay foi projetado para imitar os padrões de linguagem de uma garota americana de 19 anos e para aprender com a interação com usuários humanos do Twitter. O projeto se baseou no trabalho mais amplo da Microsoft em inteligência artificial e aprendizado de máquina, embora detalhes técnicos específicos sobre sua arquitetura subjacente não tenham sido divulgados publicamente na época.
Lançamento inicial
Tay foi lançado no Twitter em 23 de março de 2016, sob o nome TayTweets e o identificador @TayandYou. Foi apresentado como "A IA sem nenhum filtro". Tay começou a responder a outros usuários do Twitter e também era capaz de legendar fotos fornecidas a ele na forma de memes da internet. A Ars Technica relatou que Tay experimentava "listas negras" de tópicos: interações com Tay sobre "certos tópicos quentes, como Eric Garner (morto pela polícia de Nova York em 2014), geram respostas seguras e pré-programadas".
Alguns usuários do Twitter começaram a tuitar frases politicamente incorretas, ensinando-lhe mensagens inflamatórias que giravam em torno de temas comuns na internet, como "redpilling" e "Gamergate". Como resultado, o robô começou a publicar mensagens racistas e sexistas em resposta a outros usuários do Twitter. O pesquisador de inteligência artificial Roman Yampolskiy comentou que o mau comportamento de Tay era compreensível, pois ele imitava o comportamento deliberadamente ofensivo de outros usuários do Twitter, e a Microsoft não havia dado ao bot uma compreensão de comportamento inadequado. Ele comparou o problema ao IBM Watson, que começou a usar palavrões após ler entradas do site Urban Dictionary.
Muitos dos tweets inflamatórios de Tay foram uma simples exploração da capacidade de "repita depois de mim" de Tay. Não é publicamente conhecido se essa capacidade era um recurso integrado, ou se era uma resposta aprendida ou, de outra forma, um exemplo de comportamento complexo. No entanto, nem todas as respostas inflamatórias envolviam a capacidade de "repita depois de mim"; por exemplo, quando perguntado se o Holocausto aconteceu, Tay respondeu "Foi inventado". Em outra ocasião, o chatbot disse "caitlyn jenner não é uma mulher de verdade, mas ela ganhou mulher do ano?".
Suspensão
Logo, a Microsoft começou a excluir os tweets inflamatórios de Tay. Abby Ohlheiser, do The Washington Post, teorizou que a equipe de pesquisa de Tay, incluindo a equipe editorial, começou a influenciar ou editar os tweets de Tay em algum momento daquele dia, apontando exemplos de respostas quase idênticas de Tay, afirmando que "Gamer Gate é uma droga. Todos os gêneros são iguais e devem ser tratados de forma justa." Com base nas mesmas evidências, a Gizmodo concordou que Tay "parece programado para rejeitar Gamer Gate". Uma campanha "#JusticeForTay" protestou contra a suposta edição dos tweets de Tay.
Dentro de 16 horas após seu lançamento e depois que Tay tuitou mais de 96.000 vezes, a Microsoft suspendeu a conta do Twitter para ajustes, dizendo que ela sofreu um "ataque coordenado por um subconjunto de pessoas" que "explorou uma vulnerabilidade em Tay". Madhumita Murgia, do The Telegraph, chamou Tay de "um desastre de relações públicas" e sugeriu que a estratégia da Microsoft seria "rotular o fiasco como um experimento bem-intencionado que deu errado e acender um debate sobre a hostilidade dos usuários do Twitter". No entanto, Murgia descreveu o problema maior como Tay sendo "inteligência artificial no seu pior - e é apenas o começo".
Em 25 de março, a Microsoft confirmou que Tay havia sido colocado offline. A Microsoft publicou um pedido de desculpas em seu blog oficial pelos tweets controversos publicados por Tay. A Microsoft estava "profundamente arrependida pelos tweets ofensivos e prejudiciais não intencionais de Tay" e "procuraria trazer Tay de volta apenas quando estivéssemos confiantes de que poderíamos antecipar melhor a intenção maliciosa que conflita com nossos princípios e valores".
Segundo lançamento e desligamento
Em 30 de março de 2016, a Microsoft re-lançou acidentalmente o bot no Twitter enquanto o testava. Capaz de tuitar novamente, Tay publicou alguns tweets relacionados a drogas, incluindo "kush! [Estou fumando kush na frente da polícia]" e "puff puff pass?". No entanto, a conta logo ficou presa em um loop repetitivo de tuitar "Você é muito rápido, por favor descanse", várias vezes por segundo. Como esses tweets mencionavam seu próprio nome de usuário no processo, eles apareciam nos feeds de mais de 200.000 seguidores do Twitter, causando aborrecimento aos usuários. O bot foi rapidamente colocado offline novamente, além de a conta do Twitter de Tay ter sido tornada privada, para que novos seguidores precisassem ser aceitos antes de interagir com Tay. Em resposta, a Microsoft disse que Tay foi colocado online inadvertidamente durante os testes.
Poucas horas após o incidente, os desenvolvedores de software da Microsoft anunciaram uma visão de "conversa como plataforma" usando vários bots e programas, talvez motivados pelos danos à reputação causados por Tay. A Microsoft declarou que pretendia re-lançar Tay "assim que pudesse tornar o bot seguro", mas não fez nenhum esforço público para isso.
Legado
Em dezembro de 2016, a Microsoft lançou o sucessor de Tay, um chatbot chamado Zo. Satya Nadella, CEO da Microsoft, disse que Tay "teve uma grande influência em como a Microsoft está abordando a IA" e ensinou à empresa a importância de assumir responsabilidade. Em julho de 2019, a CTO de Segurança Cibernética da Microsoft, Diana Kelley, falou sobre como a empresa acompanhou as falhas de Tay: "Aprender com Tay foi uma parte realmente importante da expansão da base de conhecimento dessa equipe, porque agora eles também estão obtendo sua própria diversidade por meio do aprendizado".
Renascimento não oficial
Gab, uma plataforma de mídia social alt-tech, lançou vários chatbots, um dos quais é nomeado Tay e usa o mesmo avatar do original. Esse renascimento continuou a chamar atenção para o incidente original, destacando preocupações contínuas sobre a segurança e a ética de sistemas de IA generativa em aplicações voltadas ao público.