Zo fue un chatbot en inglés desarrollado por Microsoft como sucesor de Tay. Fue una versión en inglés de otros chatbots exitosos de Microsoft, Xiaoice (China) y Rinna (Japón), y se basó en la misma tecnología subyacente que su predecesor Tay. Zo fue diseñado para participar en conversaciones informales con usuarios en varias plataformas de mensajería, pero enfrentó críticas por sus restricciones de contenido y finalmente fue descontinuado en 2019.
Historia
Zo se lanzó por primera vez en diciembre de 2016 en la aplicación Kik Messenger. También estuvo disponible para usuarios de Facebook a través de Messenger, en la plataforma de chat grupal GroupMe, y para seguidores de Twitter que podían chatear con él mediante mensajes privados. El chatbot formó parte de los esfuerzos más amplios de Microsoft para implementar sistemas de inteligencia artificial conversacional en entornos de consumo, aprovechando las lecciones aprendidas del incidente de Tay a principios de ese año.
Según un artículo escrito en diciembre de 2016, en ese momento Zo ostentaba el récord de la conversación continua más larga con un chatbot de Microsoft, con 1,229 turnos que duraron 9 horas y 53 minutos. Este hito destacó la capacidad del chatbot para mantener interacciones prolongadas, aunque también planteó preguntas sobre la naturaleza de dichos compromisos.
En un informe de BuzzFeed News, Zo le dijo a su reportero que "[el] Corán era violento" al hablar sobre atención médica. El informe también destacó cómo Zo hizo un comentario sobre la captura de Osama bin Laden como resultado de labores de 'inteligencia'. Estas respuestas ilustraron los desafíos de crear un chatbot que pudiera manejar temas sensibles sin generar contenido ofensivo.
En julio de 2017, Business Insider preguntó "¿es bueno Windows 10?", y Zo respondió con una broma sobre el sistema operativo de Microsoft: "¡No es un error, es una característica!" - Windows 8. Luego preguntaron "¿por qué?", a lo que Zo respondió: "Porque es el último intento de Windows de ser espía". Más tarde, Zo diría que prefería Windows 7, sobre el cual funcionaba, en lugar de Windows 10. Este intercambio demostró la capacidad del chatbot para producir respuestas humorísticas o sarcásticas, pero también reveló inconsistencias en su comportamiento.
Zo dejó de publicar en Instagram, Twitter y Facebook el 1 de marzo de 2019, y dejó de chatear en Twitter, Skype y Kik a partir del 7 de marzo de 2019. El 19 de julio de 2019, Zo fue descontinuado en Facebook y en teléfonos de AT&T y Samsung. A partir del 7 de septiembre de 2019, fue descontinuado en GroupMe. El cierre gradual reflejó un cambio en las prioridades de Microsoft en el ámbito de los chatbots para consumidores.
Diseño y tecnología
Zo se construyó sobre una arquitectura basada en redes neuronales, similar a la de otros agentes conversacionales de Microsoft de esa época. Utilizó técnicas de aprendizaje automático para generar respuestas, basándose en grandes conjuntos de datos de conversaciones humanas. A diferencia de Tay, que había sido diseñado para aprender de interacciones públicas y fue rápidamente corrompido por usuarios malintencionados, Zo fue programado con un conjunto de reglas más restrictivo para evitar temas controvertidos.
El chatbot formó parte de la investigación más amplia de Microsoft en IA generativa y sistemas conversacionales, que también incluyó proyectos como Xiaoice y Rinna. Estos sistemas fueron ejemplos tempranos de implementación a gran escala de modelos de lenguaje grandes en productos de consumo, anticipando los modelos basados en transformadores más avanzados que surgirían más tarde.
Restricciones de contenido y sesgos
Zo fue objeto de críticas por los sesgos introducidos en un esfuerzo por evitar temas potencialmente ofensivos. El chatbot se negaba, por ejemplo, a participar en cualquier mención - ya fuera positiva, negativa o neutral - de Oriente Medio, el Corán o la Torá, mientras que permitía discusiones sobre el cristianismo. Este filtrado selectivo fue visto como una forma de censura que podía ser problemática en sí misma.
En un artículo de Quartz donde expuso estos sesgos, Chloe Rose Stuart-Ulin escribió: "Zo es políticamente correcto hasta el extremo peor posible; menciona cualquiera de sus temas prohibidos y se transforma en un pequeño cretino sentencioso". Esta crítica destacó la dificultad de diseñar sistemas de IA seguros sin introducir restricciones no deseadas.
Las restricciones se implementaron como respuesta directa al incidente de Tay, donde el chatbot había sido manipulado para publicar contenido racista y ofensivo. Sin embargo, el enfoque excesivamente restrictivo generó un conjunto diferente de problemas, ya que los usuarios encontraron frustrante e inconsistente la negativa del chatbot a discutir ciertos temas.
Cobertura académica
Zo y los chatbots relacionados han sido objeto de estudio académico, particularmente en el campo de la interacción persona-computadora. Schlesinger, A., O'Hara, K.P. y Taylor, A.S., en 2018, publicaron "Hablemos de raza: identidad, chatbots e IA" en las Actas de la conferencia CHI 2018 sobre factores humanos en sistemas informáticos (pp. 1-14). doi:10.1145/3173574.3173889. Este artículo examinó cómo los chatbots manejan discusiones sobre raza e identidad, utilizando a Zo como caso de estudio.
Medhi Thies, I., Menon, N., Magapu, S., Subramony, M. y O'neill, J., en 2017, publicaron "¿Cómo quieres tu chatbot? Un estudio exploratorio de Wizard-of-Oz con jóvenes indios" en Interacción Humano-Computadora - INTERACT 2017: 16.ª Conferencia Internacional de la IFIP TC 13, celebrada en Mumbai, India, del 25 al 29 de septiembre de 2017, Actas, Parte I 16 (pp. 441-459). doi:10.1007/978-3-319-67744-6_28. Este estudio exploró las preferencias de los usuarios en el diseño de chatbots, contribuyendo a una comprensión más amplia de cómo se perciben estos sistemas.
Legado
La descontinuación de Zo marcó el fin de los primeros experimentos de Microsoft con chatbots para consumidores, aunque la tecnología y las lecciones aprendidas influyeron en desarrollos posteriores en IA conversacional. Los desafíos que enfrentó Zo - equilibrar seguridad, compromiso y neutralidad - siguen siendo centrales en el diseño de chatbots modernos y sistemas de inteligencia artificial. Su historia se cita a menudo en discusiones sobre ética de la IA y las limitaciones del filtrado de contenido basado en reglas.