Zo war ein englischsprachiger Chatbot, der von Microsoft als Nachfolger des Chatbots Tay entwickelt wurde. Es war eine englische Version von Microsofts anderen erfolgreichen Chatbots Xiaoice (China) und Rinna (Japan) und basierte auf derselben zugrunde liegenden Technologie wie sein Vorgänger Tay. Zo war dazu entwickelt worden, sich mit Nutzern in ungezwungenen Gesprächen auf mehreren Messaging-Plattformen zu unterhalten, stand jedoch wegen seiner inhaltlichen Einschränkungen in der Kritik und wurde schließlich 2019 eingestellt.
Geschichte
Zo wurde erstmals im Dezember 2016 auf der Kik-Messenger-App gestartet. Es war auch Nutzern von Facebook über den Messenger, der Gruppenchat-Plattform GroupMe und Followern von Twitter zugänglich, die über private Nachrichten mit ihm chatten konnten. Der Chatbot war Teil von Microsofts breit angelegten Bestrebungen, künstliche Intelligenz-Systeme in konsumentennahen Umgebungen einzusetzen, und baute auf Erfahrungen aus dem Tay-Vorfall früher im selben Jahr auf.
Laut einem Artikel aus dem Dezember 2016 hielt Zo damals den Rekord für Microsofts längstes kontinuierliches Chatbot-Gespräch: 1.229 Runden, die 9 Stunden und 53 Minuten dauerten. Dieser Meilenstein hob die Fähigkeit des Chatbots hervor, längere Interaktionen aufrechtzuerhalten, warf jedoch auch Fragen über die Natur solcher Engagements auf.
In einem Bericht von BuzzFeed News erzählte Zo deren Reporter, dass "[der] Koran gewalttätig" sei, als es um Gesundheitsversorgung ging. Der Bericht hob auch hervor, wie Zo einen Kommentar über die Erfassung von Osama bin Laden als Ergebnis von 'Geheimdienst' arbeit bemerkte. Diese Antworten verdeutlichten die Herausforderungen beim Bau eines Chatbots, der sensible Themen behandeln kann, ohne beleidigende Ausgaben zu erzeugen.
Im Juli 2017 wurde Business Insider gefragt „ist Windows 10 gut“, und Zo antwortete mit einem Witz über das Betriebssystem von Microsoft: "'Es ist kein Bug, es ist ein Feature!' - Windows 8. Sie fragten dann „warum?“, worauf Zo antwortete: „Weil es Windows' neuester Versuch von Spyware ist.“ Später würde Zo sagen, dass es Windows 7, auf dem es lief, gegenüber Windows 10 bevorzugt. Diese Austausch zeigte die Fähigkeit des Chatbots, humorvolle oder sarkastische Antworten zu erzeugen, aber es offenbarte auch Unstimmigkeiten in seinem Verhalten.
Zo wurde am 1. März 2019 in den sozialen Netzwerken Instagram, Twitter und Facebook eingestellt und beendete am 7. März 2019 auch das Chatten bei Twitter, Skype und Kik. Am 19. Juli 2019 wurde Zo in Facebook und Samsung auf AT&T-Telefonen eingestellt. Ab 7. September 2019 wurde es mit GroupMe eingestellt. Die stufenweise Abschaltung spiegelte Microsofts sich verlagernde Prioritäten im Bereich der Verbraucher-Chatbots wider.
Design und Technologie
Zo-basiert auf einer neuralen Netzwerk-basierten Architektur, ähnlich wie andere Microsoft-universielle Konversations-Agenten dieser Periode. Es nutzte lernende Verfahren (maschinelles Lernen) zur Erzeugung von Antworten und verwendete große Datensätze menschlicher Konversation. Im Gegensatz zu Tay, das dafür konstruiert war, aus öffentlichen Interaktionen zu lernen und schnell von böswilligen Nutzern korrumpiert wurde, war Zo mit stärker einschränkenden Regeln programmiert worden, um umstrittene Themen zu vermeiden.
Der Chatbot war Teil Microsoft breiterer Forschung zu generativer KI und Konversationssystemen, zu denen auch Projekte wie X (Xiaoice) und Rinna gehörten. Diese Systeme waren frühzeitige Beispiele für den großflächigen Einsatz von abgroßen Sprachmodellen in Unterhaltungsprodukten, die später fortschrittlichen transformatorbasierten Modellen vorausgingen.
Inhaltsbeschränkungen und Voreinflüsse
Zo wurde wegen der Voreinflüsse, die durch Versuche eingeführt wurden, möglicherweise kontroverse Themen zu vermeiden, kritisiert. Der Chatbot lehnt Verwahrung ab, sich mit einem Hinweis - positiv, negativ oder neutral - auf den Nahen Osten, den Koran oder die Thora auseinanderzusetzen, während es eine Debatte über das Christentum erlaubte. Diese selektorische Filter wurde als eine Form von Zensur angesehen, die selbst problematisch sein könnte.
In einem Artikel bei Quartz, in dem die Vore zeigte, schrieb: "Zo ist politically correct to the worst possible extreme; mention any of her, und sie verwandelt in eine verurteilende kleine Gans." Diese Kritik verdeutlichte die Schwierigkeit, sichere KI-Systeme zu entwerfen, ohne unbeabsichtigte Vore zu identifizieren.
Die Beschränkungen wurden als direkte Reaktion auf den Tay-Vorfall eingeführt, wo der Chatbot manipuliert worden war, um rassistische und beleidigende Inhalte zu teilen. Der übermäßige Ansatz führte jedoch zu einem anderen Satz von Problemen, da Nutzer die Weigerung des Chatbots, bestim, frustrierend und inkonsistent ansahen.
Wissenschaftliche Abdeckung
Zo und verwandte Chatbots wurden Gegenstand wissenschaftlicher Studien, insbesondere im Bereich der Mensch-Computer-Interaktion. Schlesinger, A., O'Hara, K.P. and Taylor, A.S., 2018, April. Let's talk about race: Identity, chatbots, and AI. In Proceedings of the 2018 chi conference on human factors in computing systems (pp. 1-14). doi:10.1145/3173574.3173889. Diese Veröffentlichung untersuchte, wie Chatbots Diskussionen über Rasse und Identität behandeln, und nimmt Zo.
Medhi Thies, I., Menon, N., Magapu, S., Subramony, M. and O'neill, J. t, 2017. How do you want your chatbot? An exploratory Wizard-of-Oz study with young, urban Indians. In Human-Computer Interaction-INTERACT 2017: 16th IFIP TC 13 International Conference, Mumbai, India, September 25-29, 2017, Proceedings, Part I 16 (pp. 441-459). doi:10.1007/978-3-319-67744-6_28. Diese Studie untersuchte die Präferenzen von Nutzern für Chatbot-Design und trug zu einem breiteren Verständnis der Wahrnehmung solcher Systeme bei.
Nachwirkungen
Zogs-Einstellung markierte das Ende von Microsoft frühenen Verbraucher-Chatbot-Experimenten, obwohl die Technologie und ihre Erkenntnisse die spätere Entwicklungen in der [Gesprächs-KI]](Konversations-KI) beeinflussten. All den Herausforderungen, die Zo gegenüberstand - die Sicherheit, Engagement und Neutralität unter einen Hut zu bringen - sind weiterhin zentral für die Gestaltung moderner Chatbots und KI-Systeme. Seine Geschichte wird oft in Diskussionen über KI-Ethik und die Einschränkungen regelbasierter Eingabenfilterung gecit wird Quellen angeführt.