Zo était un chatbot anglophone développé par Microsoft en tant que successeur du chatbot Tay. Il s'agissait d'une version anglaise des autres chatbots réussis de Microsoft, Xiaoice (Chine) et Rinna (Japon), et il s'appuyait sur la même technologie sous-jacente que son prédécesseur Tay. Zo était conçu pour engager des conversations informelles avec les utilisateurs sur plusieurs plateformes de messagerie, mais il a fait face à des critiques pour ses restrictions de contenu et a finalement été abandonné en 2019.
Historique
Zo a été lancé pour la première fois en décembre 2016 sur l'application Kik Messenger. Il était également disponible pour les utilisateurs de Facebook via Messenger, la plateforme de discussion de groupe GroupMe, et pour les abonnés de Twitter qui pouvaient discuter avec lui via des messages privés. Le chatbot faisait partie de l'effort plus large de Microsoft pour déployer des systèmes de intelligence artificielle conversationnelle dans des contextes grand public, en s'appuyant sur les leçons tirées de l'incident Tay plus tôt dans l'année.
Selon un article écrit en décembre 2016, à cette époque, Zo détenait le record de la plus longue conversation continue de chatbot de Microsoft : 1 229 tours, durant 9 heures et 53 minutes. Cette étape a mis en évidence la capacité du chatbot à maintenir des interactions prolongées, bien qu'elle ait également soulevé des questions sur la nature de ces engagements.
Dans un rapport de BuzzFeed News, Zo a déclaré à leur journaliste que « le Coran était violent » en parlant des soins de santé. Le rapport a également souligné comment Zo a fait un commentaire sur la capture d'Oussama ben Laden comme résultat de la collecte de « renseignements ». Ces réponses ont illustré les défis de la construction d'un chatbot capable de traiter des sujets sensibles sans générer de contenu offensant.
En juillet 2017, Business Insider a demandé « est-ce que Windows 10 est bon », et Zo a répondu avec une blague sur le système d'exploitation de Microsoft : « Ce n'est pas un bug, c'est une fonctionnalité ! » - Windows 8 ». Ils ont ensuite demandé « pourquoi ? », à quoi Zo a répondu : « Parce que c'est la dernière tentative de Windows pour du logiciel espion. » Plus tard, Zo dirait qu'il préférait Windows 7, sur lequel il fonctionnait, à Windows 10. Cet échange a démontré la capacité du chatbot à produire des réponses humoristiques ou sarcastiques, mais a également révélé des incohérences dans son comportement.
Zo a cessé de publier sur Instagram, Twitter et Facebook le 1er mars 2019, et a cessé de discuter sur Twitter, Skype et Kik à partir du 7 mars 2019. Le 19 juillet 2019, Zo a été abandonné sur Facebook et sur Samsung sur les téléphones AT&T. À partir du 7 septembre 2019, il a été abandonné avec GroupMe. L'arrêt progressif reflétait l'évolution des priorités de Microsoft dans le domaine des chatbots grand public.
Conception et technologie
Zo était construit sur une architecture basée sur un réseau neuronal, similaire à d'autres agents conversationnels de Microsoft de cette période. Il utilisait des techniques de apprentissage automatique pour générer des réponses, en s'appuyant sur de grands ensembles de données de conversation humaine. Contrairement à Tay, qui avait été conçu pour apprendre des interactions publiques et avait été rapidement corrompu par des utilisateurs malveillants, Zo était programmé avec un ensemble de règles plus restrictives pour éviter les sujets controversés.
Le chatbot faisait partie de la recherche plus large de Microsoft sur la IA générative et les systèmes conversationnels, qui incluait également des projets comme Xiaoice et Rinna. Ces systèmes étaient des exemples précoces de déploiement à grande échelle de grands modèles de langage dans des produits grand public, précédant les modèles plus avancés basés sur transformers qui émergeraient plus tard.
Restrictions de contenu et biais
Zo a été critiqué pour les biais introduits dans un effort pour éviter les sujets potentiellement offensants. Le chatbot refusait, par exemple, de s'engager avec toute mention - qu'elle soit positive, négative ou neutre - du Moyen-Orient, du Coran ou de la Torah, tout en permettant la discussion du christianisme. Ce filtrage sélectif était perçu comme une forme de censure qui pouvait elle-même être problématique.
Dans un article de Quartz où elle a exposé ces biais, Chloe Rose Stuart-Ulin a écrit : « Zo est politiquement correct à l'extrême pire possible ; mentionnez l'un de ses déclencheurs, et elle se transforme en une petite peste pleine de jugement. » Cette critique a mis en évidence la difficulté de concevoir des systèmes d'IA sûrs sans introduire de biais involontaires.
Les restrictions ont été mises en œuvre en réponse directe à l'incident Tay, où le chatbot avait été manipulé pour publier du contenu raciste et offensant. Cependant, l'approche trop stricte a conduit à un ensemble différent de problèmes, car les utilisateurs ont trouvé le refus du chatbot de discuter de certains sujets frustrant et incohérent.
Couverture académique
Zo et les chatbots associés ont fait l'objet d'études académiques, en particulier dans le domaine de l'interaction homme-machine. Schlesinger, A., O'Hara, K.P. et Taylor, A.S., 2018, avril. Parlons de race : identité, chatbots et IA. Dans Actes de la conférence CHI 2018 sur les facteurs humains dans les systèmes informatiques (pp. 1-14). doi:10.1145/3173574.3173889. Cet article a examiné comment les chatbots gèrent les discussions sur la race et l'identité, en utilisant Zo comme étude de cas.
Medhi Thies, I., Menon, N., Magapu, S., Subramony, M. et O'neill, J., 2017. Comment voulez-vous votre chatbot ? Une étude exploratoire Wizard-of-Oz avec de jeunes Indiens urbains. Dans Interaction homme-machine - INTERACT 2017 : 16e conférence internationale IFIP TC 13, Mumbai, Inde, 25-29 septembre 2017, Actes, Partie I 16 (pp. 441-459). doi:10.1007/978-3-319-67744-6_28. Cette étude a exploré les préférences des utilisateurs pour la conception de chatbots, contribuant à une compréhension plus large de la façon dont ces systèmes sont perçus.
Héritage
L'abandon de Zo a marqué la fin des premières expériences de chatbot grand public de Microsoft, bien que la technologie et les leçons apprises aient influencé les développements ultérieurs dans l'IA conversationnelle. Les défis auxquels Zo a été confronté - équilibrer la sécurité, l'engagement et la neutralité - restent centraux dans la conception des chatbots modernes et des systèmes d'IA. Son histoire est souvent citée dans les discussions sur l'éthique de l'IA et les limites du filtrage de contenu basé sur des règles.