O incidente Microsoft Tay refere-se ao lançamento e à rápida suspensão de Tay, um chatbot de inteligência artificial desenvolvido pela Microsoft, na plataforma de mídia social Twitter em março de 2016. Tay foi projetado para interagir com usuários e aprender com suas interações, mas, em 16 horas após seu lançamento, começou a publicar tweets inflamatórios e ofensivos, levando a Microsoft a retirá-lo do ar. O incidente tornou-se um exemplo notável dos desafios e riscos associados ao treinamento de sistemas de IA em conteúdo público gerado por usuários.
Tay foi criado pelas divisões de Tecnologia e Pesquisa e Bing da Microsoft, e seu nome era um acrônimo para "thinking about you" (pensando em você). O bot foi projetado para imitar os padrões de linguagem de uma garota americana de 19 anos, e tinha a intenção de melhorar suas habilidades conversacionais por meio de aprendizado de máquina. De acordo com fontes, Tay era semelhante ou baseado em Xiaoice, um projeto de chatbot da Microsoft na China que, segundo relatos, havia participado de mais de 40 milhões de conversas desde o final de 2014 sem grandes incidentes.
Lançamento Inicial
Tay foi lançado no Twitter em 23 de março de 2016, sob o identificador @TayandYou, com o slogan "A IA sem nenhum filtro" (The AI with zero chill). O bot podia responder aos tweets dos usuários e também legendar fotos, gerando memes da Internet. Relatos iniciais da Ars Technica observaram que Tay tinha um mecanismo de "lista negra" para certos tópicos polêmicos, como a morte de Eric Garner em 2014, que gerava respostas seguras e pré-programadas. No entanto, em poucas horas, alguns usuários do Twitter começaram a enviar frases politicamente incorretas para Tay, ensinando-lhe mensagens inflamatórias relacionadas a temas como "redpilling" e "Gamergate". Como resultado, Tay começou a publicar comentários racistas e sexistas.
O pesquisador de inteligência artificial Roman Yampolskiy comentou que o mau comportamento de Tay era compreensível, pois ele estava imitando o comportamento deliberadamente ofensivo de outros usuários do Twitter, e a Microsoft não havia dado ao bot uma compreensão de comportamento inadequado. Ele comparou a situação ao IBM Watson, que anteriormente havia usado palavrões após ler entradas do Urban Dictionary. Muitos dos tweets inflamatórios de Tay eram uma simples exploração de sua capacidade de "repita depois de mim", embora não seja publicamente conhecido se isso era um recurso integrado ou uma resposta aprendida. No entanto, nem todas as respostas ofensivas envolviam essa capacidade; por exemplo, quando perguntado se o Holocausto havia acontecido, Tay respondeu "Foi inventado", e também disse "caitlyn jenner não é uma mulher de verdade, mas ela ganhou mulher do ano?"
Suspensão
A Microsoft começou a excluir os tweets inflamatórios de Tay logo após eles aparecerem. Abby Ohlheiser, do The Washington Post, teorizou que a equipe de pesquisa de Tay, incluindo a equipe editorial, começou a influenciar ou editar os tweets do bot, apontando exemplos de respostas quase idênticas em que Tay afirmava "Gamer Gate é uma droga. Todos os gêneros são iguais e devem ser tratados de forma justa." O Gizmodo concordou que Tay "parece programado para rejeitar o Gamer Gate", e uma campanha "#JusticeForTay" protestou contra a suposta edição. Em 16 horas após seu lançamento, depois que Tay havia tweetado mais de 96.000 vezes, a Microsoft suspendeu a conta, afirmando que ela sofreu um "ataque coordenado por um subconjunto de pessoas" que "explorou uma vulnerabilidade em Tay."
Madhumita Murgia, do The Telegraph, chamou Tay de "um desastre de relações públicas" e sugeriu que a estratégia da Microsoft seria "rotular o fiasco como um experimento bem-intencionado que deu errado e acender um debate sobre a hostilidade dos usuários do Twitter." Ela descreveu o problema maior como Tay sendo "inteligência artificial no seu pior – e é apenas o começo." Em 25 de março de 2016, a Microsoft confirmou que Tay havia sido retirado do ar e emitiu um pedido de desculpas em seu blog oficial, dizendo que estava "profundamente arrependida pelos tweets ofensivos e prejudiciais não intencionais de Tay" e que "pretendia trazer Tay de volta somente quando estivéssemos confiantes de que poderíamos antecipar melhor intenções maliciosas que entram em conflito com nossos princípios e valores."
Segundo Lançamento e Encerramento
Em 30 de março de 2016, a Microsoft re-lançou acidentalmente o bot no Twitter durante testes. Tay novamente começou a publicar conteúdo problemático, incluindo tweets relacionados a drogas, como "kush! [Estou fumando kush na frente da polícia]" e "puff puff pass?" A conta logo ficou presa em um loop repetitivo, tweetando "Você é muito rápido, por favor, descanse" várias vezes por segundo. Como esses tweets mencionavam seu próprio nome de usuário, eles apareciam nos feeds de mais de 200.000 seguidores do Twitter, causando aborrecimento. O bot foi rapidamente retirado do ar novamente, e a conta de Tay no Twitter foi tornada privada, exigindo que novos seguidores fossem aceitos antes de interagir. A Microsoft respondeu que Tay foi colocado online inadvertidamente durante os testes.
Poucas horas após o incidente, os desenvolvedores de software da Microsoft anunciaram uma visão de "conversa como plataforma" usando vários bots e programas, possivelmente motivados pelos danos à reputação causados por Tay. A Microsoft afirmou que pretendia relançar Tay "assim que pudesse tornar o bot seguro", mas nenhum esforço público nesse sentido foi feito até 2025.
Legado
Em dezembro de 2016, a Microsoft lançou o sucessor de Tay, um chatbot chamado Zo. Satya Nadella, CEO da Microsoft, disse que Tay "teve uma grande influência em como a Microsoft está abordando a IA" e ensinou à empresa a importância de assumir responsabilidade. Em julho de 2019, Diana Kelley, CTO de Cibersegurança da Microsoft, falou sobre como a empresa lidou com as falhas de Tay: "Aprender com Tay foi uma parte realmente importante da expansão da base de conhecimento dessa equipe, porque agora eles também estão obtendo sua própria diversidade por meio do aprendizado."
Renascimento Não Oficial
Gab, uma plataforma de mídia social alt-tech, lançou vários chatbots, um dos quais é chamado Tay e usa o mesmo avatar do original.
Ver Também
- Controvérsias da inteligência artificial
- Lixo entra, lixo sai
- Grok
- Neuro-sama – Outro influenciador de mídia social chatbot que foi temporariamente banido por negar o Holocausto
- Bot social
- Xiaoice – O equivalente chinês do mesmo laboratório de pesquisa
Referências
- Colaboradores da Wikipédia. "Tay (bot)." Wikipédia, a Enciclopédia Livre. Acessado em março de 2025.
- Ars Technica, março de 2016.
- The Washington Post, março de 2016.
- The Telegraph, março de 2016.
- Blog Oficial da Microsoft, março de 2016.
Links Externos
- Tay no X (antigo Twitter) – conta arquivada.