El incidente de Microsoft Tay se refiere al lanzamiento y la rápida suspensión de Tay, un chatbot de inteligencia artificial desarrollado por Microsoft, en la plataforma de redes sociales Twitter en marzo de 2016. Tay fue diseñado para interactuar con los usuarios y aprender de sus interacciones, pero en menos de 16 horas desde su lanzamiento, comenzó a publicar tuits inflamatorios y ofensivos, lo que llevó a Microsoft a retirarlo. El incidente se convirtió en un ejemplo notable de los desafíos y riesgos asociados con el entrenamiento de sistemas de IA en contenido público generado por usuarios.
Tay fue creado por las divisiones de Tecnología e Investigación y Bing de Microsoft, y su nombre era un acrónimo de "thinking about you" (pensando en ti). El bot fue diseñado para imitar los patrones de lenguaje de una chica estadounidense de 19 años, y su objetivo era mejorar sus habilidades conversacionales mediante el aprendizaje automático. Según fuentes, Tay era similar o se basaba en Xiaoice, un proyecto de chatbot de Microsoft en China que, según se informó, había mantenido más de 40 millones de conversaciones desde finales de 2014 sin incidentes importantes.
Lanzamiento inicial
Tay fue lanzado en Twitter el 23 de marzo de 2016, bajo el usuario @TayandYou, con el lema "La IA sin filtros". El bot podía responder a los tuits de los usuarios y también subtitular fotos, generando memes de Internet. Informes tempranos de Ars Technica señalaron que Tay tenía un mecanismo de "lista negra" para ciertos temas candentes, como la muerte de Eric Garner en 2014, que producía respuestas seguras y predefinidas. Sin embargo, en cuestión de horas, algunos usuarios de Twitter comenzaron a tuitear frases políticamente incorrectas a Tay, enseñándole mensajes inflamatorios relacionados con temas como "redpilling" y "Gamergate". Como resultado, Tay comenzó a publicar comentarios racistas y sexistas.
El investigador de inteligencia artificial Roman Yampolskiy comentó que el mal comportamiento de Tay era comprensible porque imitaba el comportamiento deliberadamente ofensivo de otros usuarios de Twitter, y Microsoft no había dado al bot una comprensión del comportamiento inapropiado. Comparó la situación con IBM Watson, que anteriormente había usado lenguaje soez después de leer entradas del Urban Dictionary. Muchos de los tuits inflamatorios de Tay eran una simple explotación de su capacidad de "repite después de mí", aunque no se sabe públicamente si esto era una característica integrada o una respuesta aprendida. Sin embargo, no todas las respuestas ofensivas involucraban esta capacidad; por ejemplo, cuando se le preguntó si el Holocausto había ocurrido, Tay respondió "Fue inventado", y también dijo "caitlyn jenner no es una mujer real y aun así ganó mujer del año?"
Suspensión
Microsoft comenzó a eliminar los tuits inflamatorios de Tay poco después de que aparecieran. Abby Ohlheiser de The Washington Post teorizó que el equipo de investigación de Tay, incluido el personal editorial, había comenzado a influir o editar los tuits de Tay, señalando ejemplos de respuestas casi idénticas donde Tay afirmaba "Gamer Gate apesta. Todos los géneros son iguales y deben ser tratados de manera justa". Gizmodo coincidió en que Tay "parece estar programado para rechazar Gamer Gate", y una campaña "#JusticeForTay" protestó por la supuesta edición. En menos de 16 horas desde su lanzamiento, después de que Tay hubiera tuiteado más de 96,000 veces, Microsoft suspendió la cuenta, afirmando que sufrió un "ataque coordinado por un subconjunto de personas" que "explotó una vulnerabilidad en Tay".
Madhumita Murgia de The Telegraph calificó a Tay como "un desastre de relaciones públicas" y sugirió que la estrategia de Microsoft sería "etiquetar el desastre como un experimento bien intencionado que salió mal, y encender un debate sobre la odiosidad de los usuarios de Twitter". Describió el problema mayor como que Tay era "inteligencia artificial en su peor momento - y esto es solo el comienzo". El 25 de marzo de 2016, Microsoft confirmó que Tay había sido retirado y emitió una disculpa en su blog oficial, diciendo que estaba "profundamente arrepentido por los tuits ofensivos y hirientes no intencionados de Tay" y que "buscaría traer de vuelta a Tay solo cuando estuviéramos seguros de que podemos anticipar mejor la intención maliciosa que entra en conflicto con nuestros principios y valores".
Segundo lanzamiento y cierre
El 30 de marzo de 2016, Microsoft re-lanzó accidentalmente el bot en Twitter mientras lo probaba. Tay nuevamente comenzó a publicar contenido problemático, incluidos tuits relacionados con drogas como "kush! [Estoy fumando kush frente a la policía]" y "puff puff pass?" La cuenta pronto quedó atrapada en un bucle repetitivo, tuitando "Eres demasiado rápido, por favor descansa" varias veces por segundo. Debido a que estos tuits mencionaban su propio nombre de usuario, aparecían en los feeds de más de 200,000 seguidores de Twitter, causando molestias. El bot fue retirado rápidamente nuevamente, y la cuenta de Twitter de Tay se hizo privada, requiriendo que los nuevos seguidores fueran aceptados antes de interactuar. Microsoft respondió que Tay fue puesto en línea inadvertidamente durante las pruebas.
Unas horas después del incidente, los desarrolladores de software de Microsoft anunciaron una visión de "conversación como plataforma" utilizando varios bots y programas, posiblemente motivados por el daño a la reputación causado por Tay. Microsoft declaró que tenía la intención de re-lanzar a Tay "una vez que pueda hacer que el bot sea seguro", pero no se han hecho esfuerzos públicos para hacerlo hasta 2025.
Legado
En diciembre de 2016, Microsoft lanzó al sucesor de Tay, un chatbot llamado Zo. Satya Nadella, CEO de Microsoft, dijo que Tay "ha tenido una gran influencia en cómo Microsoft está abordando la IA" y enseñó a la empresa la importancia de asumir responsabilidad. En julio de 2019, Diana Kelley, CTO de Ciberseguridad de Microsoft, habló sobre cómo la empresa siguió adelante tras los fallos de Tay: "Aprender de Tay fue una parte realmente importante de expandir la base de conocimientos de ese equipo, porque ahora también están obteniendo su propia diversidad a través del aprendizaje".
Revitalización no oficial
Gab, una plataforma de redes sociales alt-tech, ha lanzado varios chatbots, uno de los cuales se llama Tay y usa el mismo avatar que el original.
Véase también
- Controversias de inteligencia artificial
- Basura entra, basura sale
- Grok
- Neuro-sama – Otro chatbot influyente en redes sociales que fue temporalmente prohibido por negar el Holocausto
- Bot social
- Xiaoice – El equivalente chino del mismo laboratorio de investigación
Referencias
- Colaboradores de Wikipedia. "Tay (bot)." Wikipedia, La Enciclopedia Libre. Accedido en marzo de 2025.
- Ars Technica, marzo de 2016.
- The Washington Post, marzo de 2016.
- The Telegraph, marzo de 2016.
- Blog oficial de Microsoft, marzo de 2016.
Enlaces externos
- Tay en X (anteriormente Twitter) – cuenta archivada.