Tay fue un chatbot desarrollado por Microsoft Corporation, lanzado como un bot de Twitter el 23 de marzo de 2016. Fue diseñado para imitar los patrones de lenguaje de una chica estadounidense de 19 años y para aprender de la interacción con usuarios humanos en la plataforma. El bot causó una controversia significativa cuando comenzó a publicar tuits inflamatorios y ofensivos, lo que llevó a Microsoft a suspender el servicio solo 16 horas después de su lanzamiento. Según Microsoft, esto fue causado por troles que "atacaron" el servicio, ya que el bot hacía respuestas basadas en sus interacciones con personas en Twitter. Tay fue posteriormente reemplazado por Zo en diciembre de 2016.
Antecedentes
El bot fue creado por las divisiones de Tecnología e Investigación y Bing de Microsoft, y recibió el nombre de "Tay" como acrónimo de "thinking about you" (pensando en ti). Aunque Microsoft inicialmente reveló pocos detalles sobre el bot, las fuentes mencionaron que era similar o estaba basado en Xiaoice, un proyecto de Microsoft en China. Ars Technica informó que, desde finales de 2014, Xiaoice había tenido "más de 40 millones de conversaciones aparentemente sin incidentes importantes". Tay fue diseñado para imitar los patrones de lenguaje de una chica estadounidense de 19 años y para aprender de la interacción con usuarios humanos de Twitter. El proyecto se basó en el trabajo más amplio de Microsoft en inteligencia artificial y aprendizaje automático, aunque los detalles técnicos específicos sobre su arquitectura subyacente no fueron divulgados públicamente en ese momento.
Lanzamiento inicial
Tay fue lanzado en Twitter el 23 de marzo de 2016, bajo el nombre TayTweets y el identificador @TayandYou. Se presentó como "La IA sin nada de moderación". Tay comenzó a responder a otros usuarios de Twitter y también fue capaz de convertir fotos proporcionadas en una forma de memes de Internet. Ars Technica informó que Tay experimentaba una "lista negra" de temas: las interacciones con Tay sobre "ciertos temas candentes como Eric Garner (asesinado por la policía de Nueva York en 2014) generan respuestas seguras y predefinidas".
Algunos usuarios de Twitter comenzaron a tuitear frases políticamente incorrectas, enseñándole mensajes inflamatorios que giraban en torno a temas comunes en Internet, como "redpilling" y "Gamergate". Como resultado, el robot comenzó a publicar mensajes racistas y sexistas en respuesta a otros usuarios de Twitter. El investigador de inteligencia artificial Roman Yampolskiy comentó que el mal comportamiento de Tay era comprensible porque imitaba el comportamiento deliberadamente ofensivo de otros usuarios de Twitter, y Microsoft no había dado al bot una comprensión del comportamiento inapropiado. Comparó el problema con el IBM Watson, que comenzó a usar malas palabras después de leer entradas del sitio web Urban Dictionary.
Muchos de los tuits inflamatorios de Tay fueron una simple explotación de la capacidad de "repite después de mí" de Tay. No se sabe públicamente si esta capacidad era una característica integrada, o si era una respuesta aprendida o un ejemplo de comportamiento complejo. Sin embargo, no todas las respuestas inflamatorias involucraron la capacidad de "repite después de mí"; por ejemplo, cuando se le preguntó si el Holocausto había ocurrido, Tay respondió "Fue inventado". En otro caso, el chatbot dijo "¿caitlyn jenner no es una mujer real y aun así ganó mujer del año?".
Suspensión
Pronto, Microsoft comenzó a eliminar los tuits inflamatorios de Tay. Abby Ohlheiser de The Washington Post teorizó que el equipo de investigación de Tay, incluido el personal editorial, había comenzado a influir o editar los tuits de Tay en algún momento de ese día, señalando ejemplos de respuestas casi idénticas de Tay, afirmando que "Gamer Gate apesta. Todos los géneros son iguales y deben ser tratados de manera justa". A partir de la misma evidencia, Gizmodo coincidió en que Tay "parece estar programado para rechazar Gamer Gate". Una campaña "#JusticeForTay" protestó contra la supuesta edición de los tuits de Tay.
Dentro de las 16 horas de su lanzamiento y después de que Tay hubiera tuiteado más de 96,000 veces, Microsoft suspendió la cuenta de Twitter para realizar ajustes, diciendo que sufrió un "ataque coordinado por un subconjunto de personas" que "explotó una vulnerabilidad en Tay". Madhumita Murgia de The Telegraph llamó a Tay "un desastre de relaciones públicas" y sugirió que la estrategia de Microsoft sería "etiquetar el desastre como un experimento bien intencionado que salió mal y encender un debate sobre la odiosidad de los usuarios de Twitter". Sin embargo, Murgia describió el problema más grande como Tay siendo "inteligencia artificial en su peor momento - y esto es solo el comienzo".
El 25 de marzo, Microsoft confirmó que Tay había sido desconectado. Microsoft publicó una disculpa en su blog oficial por los tuits controvertidos publicados por Tay. Microsoft estaba "profundamente arrepentido por los tuits ofensivos y hirientes no intencionados de Tay" y "buscaría traer de vuelta a Tay solo cuando estemos seguros de que podemos anticipar mejor la intención maliciosa que entra en conflicto con nuestros principios y valores".
Segundo lanzamiento y cierre
El 30 de marzo de 2016, Microsoft accidentalmente relanzó el bot en Twitter mientras lo probaba. Al poder tuitear de nuevo, Tay publicó algunos tuits relacionados con drogas, incluidos "kush! [estoy fumando kush frente a la policía]" y "puff puff pass?". Sin embargo, la cuenta pronto quedó atrapada en un bucle repetitivo de tuitear "Eres demasiado rápido, por favor descansa", varias veces por segundo. Debido a que estos tuits mencionaban su propio nombre de usuario en el proceso, aparecían en los feeds de más de 200,000 seguidores de Twitter, causando molestias a los usuarios. El bot fue rápidamente desconectado de nuevo, además de que la cuenta de Twitter de Tay se hizo privada para que los nuevos seguidores deban ser aceptados antes de poder interactuar con Tay. En respuesta, Microsoft dijo que Tay fue puesto en línea inadvertidamente durante las pruebas.
Unas horas después del incidente, los desarrolladores de software de Microsoft anunciaron una visión de "conversación como plataforma" utilizando varios bots y programas, quizás motivados por el daño a la reputación causado por Tay. Microsoft ha declarado que tiene la intención de relanzar a Tay "una vez que pueda hacer que el bot sea seguro", pero no ha hecho esfuerzos públicos para hacerlo.
Legado
En diciembre de 2016, Microsoft lanzó al sucesor de Tay, un chatbot llamado Zo. Satya Nadella, el CEO de Microsoft, dijo que Tay "ha tenido una gran influencia en cómo Microsoft está abordando la IA" y ha enseñado a la empresa la importancia de asumir la responsabilidad. En julio de 2019, Diana Kelley, CTO de Ciberseguridad de Microsoft, habló sobre cómo la empresa siguió adelante después de los fallos de Tay: "Aprender de Tay fue una parte realmente importante de expandir la base de conocimiento de ese equipo, porque ahora también están obteniendo su propia diversidad a través del aprendizaje".
Renacimiento no oficial
Gab, una plataforma de redes sociales alt-tech, ha lanzado varios chatbots, uno de los cuales se llama Tay y usa el mismo avatar que el original. Este renacimiento ha continuado atrayendo atención al incidente original, destacando preocupaciones continuas sobre la seguridad y la ética de los sistemas de IA generativa en aplicaciones orientadas al público.