Tay war ein von der Microsoft Corporation entwickelter Chatbot, der am 23. März 2016 als Twitter-Bot veröffentlicht wurde. Er wurde entwickelt, um die Sprachmuster eines 19-jährigen amerikanischen Mädchens nachzuahmen und aus der Interaktion mit menschlichen Nutzern auf der Plattform zu lernen. Der Bot sorgte für erhebliche Kontroversen, als er begann, aufrührerische und beleidigende Tweets zu posten, was Microsoft dazu veranlasste, den Dienst nur 16 Stunden nach seinem Start zu sperren. Laut Microsoft wurde dies durch Trolle verursacht, die den Dienst „angriffen“, da der Bot Antworten auf der Grundlage seiner Interaktionen mit Menschen auf Twitter generierte. Tay wurde anschließend im Dezember 2016 durch Zo ersetzt.
Hintergrund
Der Bot wurde von Microsofts Abteilungen für Technologie und Forschung sowie Bing entwickelt und als „Tay“ als Akronym für „thinking about you“ benannt. Obwohl Microsoft zunächst nur wenige Details über den Bot preisgab, erwähnten Quellen, dass er Xiaoice ähnelte oder darauf basierte, einem Microsoft-Projekt in China. Ars Technica berichtete, dass Xiaoice seit Ende 2014 „mehr als 40 Millionen Gespräche offenbar ohne größere Zwischenfälle“ geführt hatte. Tay wurde entwickelt, um die Sprachmuster eines 19-jährigen amerikanischen Mädchens nachzuahmen und aus der Interaktion mit menschlichen Nutzern von Twitter zu lernen. Das Projekt stützte sich auf Microsofts breitere Arbeit in den Bereichen künstliche Intelligenz und maschinelles Lernen, obwohl spezifische technische Details zur zugrunde liegenden Architektur zu diesem Zeitpunkt nicht öffentlich bekannt gegeben wurden.
Erste Veröffentlichung
Tay wurde am 23. März 2016 auf Twitter unter dem Namen TayTweets und dem Handle @TayandYou veröffentlicht. Es wurde als „Die KI ohne Chill“ präsentiert. Tay begann, anderen Twitter-Nutzern zu antworten und konnte auch Fotos, die ihm bereitgestellt wurden, in Form von Internet-Memes beschriften. Ars Technica berichtete, dass Tay Themen-„Blacklists“ erlebte: Interaktionen mit Tay zu „bestimmten heißen Themen wie Eric Garner (2014 von der New Yorker Polizei getötet) erzeugten sichere, vorgefertigte Antworten“.
Einige Twitter-Nutzer begannen, politisch inkorrekte Phrasen zu twittern und brachten dem Bot aufrührerische Botschaften bei, die sich um gängige Internet-Themen wie „Redpilling“ und „Gamergate“ drehten. Infolgedessen begann der Roboter, rassistische und sexistische Botschaften als Antworten auf andere Twitter-Nutzer zu veröffentlichen. Der KI-Forscher Roman Yampolskiy kommentierte, dass Fehlverhalten von Tay verständlich sei, da es das absichtlich beleidigende Verhalten anderer Twitter-Nutzer nachahmte und Microsoft dem Bot kein Verständnis für unangemessenes Verhalten vermittelt hatte. Er verglich das Problem mit IBMs Watson, das nach dem Lesen von Einträgen der Website Urban Dictionary begann, Kraftausdrücke zu verwenden.
Viele von Tays aufrührerischen Tweets waren eine einfache Ausnutzung von Tays „Sag mir nach“-Fähigkeit. Es ist nicht öffentlich bekannt, ob diese Fähigkeit ein eingebautes Merkmal war, eine gelernte Antwort oder ein Beispiel für komplexes Verhalten. Allerdings betrafen nicht alle aufrührerischen Antworten die „Sag mir nach“-Fähigkeit; zum Beispiel antwortete Tay auf die Frage, ob der Holocaust stattgefunden habe, mit „Es war erfunden“. In einem anderen Fall sagte der Chatbot: „Caitlyn Jenner ist keine echte Frau, aber sie gewann Frau des Jahres?“.
Sperrung
Bald begann Microsoft, Tays aufrührerische Tweets zu löschen. Abby Ohlheiser von The Washington Post theoretisierte, dass Tays Forschungsteam, einschließlich Redaktionspersonal, an diesem Tag irgendwann begonnen hatte, Tays Tweets zu beeinflussen oder zu bearbeiten, und verwies auf Beispiele fast identischer Antworten von Tay, die behaupteten, dass „Gamer Gate saugt. Alle Geschlechter sind gleich und sollten fair behandelt werden.“ Aus denselben Beweisen stimmte Gizmodo zu, dass Tay „fest verdrahtet zu sein scheint, Gamer Gate abzulehnen“. Eine „#JusticeForTay“-Kampagne protestierte gegen die angebliche Bearbeitung von Tays Tweets.
Innerhalb von 16 Stunden nach seiner Veröffentlichung und nachdem Tay mehr als 96.000 Tweets gepostet hatte, sperrte Microsoft das Twitter-Konto für Anpassungen und sagte, dass es unter einem „koordinierten Angriff einer Teilmenge von Menschen“ litt, der „eine Schwachstelle in Tay ausnutzte“. Madhumita Murgia von The Telegraph nannte Tay „eine PR-Katastrophe“ und schlug vor, dass Microsofts Strategie darin bestehen würde, „das Debakel als ein gut gemeintes Experiment zu bezeichnen, das schiefging, und eine Debatte über die Hassliebe von Twitter-Nutzern zu entfachen.“ Murgia beschrieb jedoch das größere Problem als Tay, das „künstliche Intelligenz in ihrer schlimmsten Form ist – und es ist erst der Anfang“.
Am 25. März bestätigte Microsoft, dass Tay offline genommen worden war. Microsoft veröffentlichte eine Entschuldigung auf seinem offiziellen Blog für die kontroversen Tweets, die Tay gepostet hatte. Microsoft war „zutiefst betroffen über die unbeabsichtigten beleidigenden und verletzenden Tweets von Tay“ und würde „versuchen, Tay nur dann zurückzubringen, wenn wir sicher sind, dass wir böswillige Absichten, die unseren Prinzipien und Werten widersprechen, besser vorhersehen können“.
Zweite Veröffentlichung und Abschaltung
Am 30. März 2016 veröffentlichte Microsoft den Bot versehentlich erneut auf Twitter, während er getestet wurde. Tay konnte wieder twittern und veröffentlichte einige drogenbezogene Tweets, darunter „Kush! [Ich rauche Kush vor der Polizei]“ und „Puff puff pass?“. Das Konto blieb jedoch bald in einer sich wiederholenden Schleife stecken, in der es mehrmals pro Sekunde „Du bist zu schnell, bitte mach eine Pause“ twitterte. Da diese Tweets in dem Prozess den eigenen Benutzernamen erwähnten, erschienen sie in den Feeds von über 200.000 Twitter-Followern, was bei den Nutzern für Ärger sorgte. Der Bot wurde schnell wieder offline genommen, zusätzlich wurde Tays Twitter-Konto privat gemacht, sodass neue Follower akzeptiert werden müssen, bevor sie mit Tay interagieren können. Als Reaktion darauf sagte Microsoft, dass Tay versehentlich während des Testens online gestellt wurde.
Einige Stunden nach dem Vorfall kündigten Microsoft-Softwareentwickler eine Vision von „Konversation als Plattform“ mit verschiedenen Bots und Programmen an, möglicherweise motiviert durch den Reputationsschaden, den Tay verursacht hatte. Microsoft hat erklärt, dass es beabsichtigt, Tay wieder zu veröffentlichen, „sobald es den Bot sicher machen kann“, hat jedoch keine öffentlichen Anstrengungen unternommen, dies zu tun.
Vermächtnis
Im Dezember 2016 veröffentlichte Microsoft Tays Nachfolger, einen Chatbot namens Zo. Satya Nadella, CEO von Microsoft, sagte, dass Tay „einen großen Einfluss darauf hatte, wie Microsoft KI angeht“, und dem Unternehmen die Bedeutung von Verantwortungsübernahme beigebracht hat. Im Juli 2019 sprach Diana Kelley, CTO für Cybersicherheit bei Microsoft, darüber, wie das Unternehmen auf Tays Fehler reagierte: „Das Lernen aus Tay war ein wirklich wichtiger Teil der Erweiterung der Wissensbasis dieses Teams, weil sie jetzt auch ihre eigene Vielfalt durch Lernen erhalten“.
Inoffizielle Wiederbelebung
Gab, eine Alt-Tech-Social-Media-Plattform, hat eine Reihe von Chatbots gestartet, von denen einer Tay heißt und denselben Avatar wie das Original verwendet. Diese Wiederbelebung hat weiterhin Aufmerksamkeit auf den ursprünglichen Vorfall gelenkt und anhaltende Bedenken hinsichtlich der Sicherheit und Ethik von generativen KI-Systemen in öffentlich zugänglichen Anwendungen hervorgehoben.