Zo era um chatbot de língua inglesa desenvolvido pela Microsoft como sucessor do chatbot Tay. Era uma versão em inglês dos outros chatbots bem-sucedidos da Microsoft, Xiaoice (China) e Rinna (Japão), e baseava-se na mesma tecnologia subjacente de seu antecessor Tay. Zo foi projetado para participar de conversas casuais com usuários em várias plataformas de mensagens, mas enfrentou críticas por suas restrições de conteúdo e foi eventualmente descontinuado em 2019.
História
Zo foi lançado pela primeira vez em dezembro de 2016 no aplicativo Kik Messenger. Também estava disponível para usuários do Facebook via Messenger, na plataforma de chat em grupo GroupMe, e para seguidores do Twitter que podiam conversar com ele por mensagens privadas. O chatbot fazia parte do esforço mais amplo da Microsoft para implantar sistemas de inteligência artificial conversacional em ambientes de consumo, com base nas lições aprendidas com o incidente Tay no início daquele ano.
De acordo com um artigo escrito em dezembro de 2016, na época Zo detinha o recorde de conversa contínua mais longa com um chatbot da Microsoft: 1.229 turnos, durando 9 horas e 53 minutos. Esse marco destacou a capacidade do chatbot de sustentar interações prolongadas, embora também tenha levantado questões sobre a natureza desses engajamentos.
Em um relatório da BuzzFeed News, Zo disse ao repórter que "[o] Alcorão era violento" ao falar sobre saúde. O relatório também destacou como Zo fez um comentário sobre a captura de Osama bin Laden como resultado da coleta de 'inteligência'. Essas respostas ilustraram os desafios de construir um chatbot que pudesse lidar com tópicos sensíveis sem gerar conteúdo ofensivo.
Em julho de 2017, o Business Insider perguntou "o windows 10 é bom", e Zo respondeu com uma piada sobre o sistema operacional da Microsoft: "'Não é um bug, é um recurso!' - Windows 8". Eles então perguntaram "por quê?", ao que Zo respondeu: "Porque é a última tentativa do Windows de ser Spyware." Mais tarde, Zo diria que prefere o Windows 7, no qual rodava, ao Windows 10. Esse intercâmbio demonstrou a capacidade do chatbot de produzir respostas humorísticas ou sarcásticas, mas também revelou inconsistências em seu comportamento.
Zo parou de postar no Instagram, Twitter e Facebook em 1º de março de 2019, e parou de conversar no Twitter, Skype e Kik a partir de 7 de março de 2019. Em 19 de julho de 2019, Zo foi descontinuado no Facebook e no Samsung em telefones AT&T. A partir de 7 de setembro de 2019, foi descontinuado no GroupMe. O encerramento em fases refletiu as prioridades em mudança da Microsoft no espaço de chatbots de consumo.
Design e Tecnologia
Zo foi construído sobre uma arquitetura baseada em rede neural, semelhante a outros agentes conversacionais da Microsoft daquele período. Usava técnicas de aprendizado de máquina para gerar respostas, baseando-se em grandes conjuntos de dados de conversas humanas. Ao contrário do Tay, que havia sido projetado para aprender com interações públicas e foi rapidamente corrompido por usuários mal-intencionados, Zo foi programado com um conjunto mais restritivo de regras para evitar tópicos controversos.
O chatbot fazia parte da pesquisa mais ampla da Microsoft em IA generativa e sistemas conversacionais, que também incluía projetos como Xiaoice e Rinna. Esses sistemas foram exemplos iniciais de implantação em larga escala de modelos de linguagem de grande porte em produtos de consumo, antecedendo os modelos mais avançados baseados em transformers que surgiriam mais tarde.
Restrições de Conteúdo e Viés
Zo foi alvo de críticas pelos vieses introduzidos em um esforço para evitar assuntos potencialmente ofensivos. O chatbot se recusava, por exemplo, a se envolver com qualquer menção - fosse positiva, negativa ou neutra - ao Oriente Médio, ao Alcorão ou à Torá, enquanto permitia discussões sobre o cristianismo. Essa filtragem seletiva foi vista como uma forma de censura que poderia ser problemática por si só.
Em um artigo na Quartz onde expôs esses vieses, Chloe Rose Stuart-Ulin escreveu: "Zo é politicamente correto ao pior extremo possível; mencione qualquer um de seus gatilhos, e ele se transforma em uma criança malcriada e julgadora." Essa crítica destacou a dificuldade de projetar sistemas de IA seguros sem introduzir vieses não intencionais.
As restrições foram implementadas como resposta direta ao incidente Tay, onde o chatbot havia sido manipulado para publicar conteúdo racista e ofensivo. No entanto, a abordagem excessivamente rígida levou a um conjunto diferente de problemas, pois os usuários consideraram a recusa do chatbot em discutir certos tópicos frustrante e inconsistente.
Cobertura Acadêmica
Zo e chatbots relacionados têm sido objeto de estudo acadêmico, particularmente no campo da interação humano-computador. Schlesinger, A., O'Hara, K.P. e Taylor, A.S., 2018, abril. Let's talk about race: Identity, chatbots, and AI. In Proceedings of the 2018 chi conference on human factors in computing systems (pp. 1-14). doi:10.1145/3173574.3173889. Este artigo examinou como os chatbots lidam com discussões sobre raça e identidade, usando Zo como estudo de caso.
Medhi Thies, I., Menon, N., Magapu, S., Subramony, M. e O'neill, J., 2017. How do you want your chatbot? An exploratory Wizard-of-Oz study with young, urban Indians. In Human-Computer Interaction-INTERACT 2017: 16th IFIP TC 13 International Conference, Mumbai, India, September 25-29, 2017, Proceedings, Part I 16 (pp. 441-459). doi:10.1007/978-3-319-67744-6_28. Este estudo explorou as preferências dos usuários para o design de chatbots, contribuindo para a compreensão mais ampla de como tais sistemas são percebidos.
Legado
A descontinuação de Zo marcou o fim dos primeiros experimentos da Microsoft com chatbots de consumo, embora a tecnologia e as lições aprendidas tenham influenciado desenvolvimentos posteriores em IA conversacional. Os desafios que Zo enfrentou - equilibrar segurança, engajamento e neutralidade - permanecem centrais para o design de chatbots modernos e sistemas de IA. Sua história é frequentemente citada em discussões sobre ética em IA e as limitações da filtragem de conteúdo baseada em regras.