Microsoft-Tay-Vorfall (2016)

["Der Microsoft-Tay-Vorfall bezieht sich auf die Ver\u00f6ffentlichung und die rasche Abschaltung von Tay, einem von Microsoft entwickelten Chatbot mit k\u00fcnstlicher Intelligenz, auf der Social-Media-Plattform Twitter im M\u00e4rz 2016. Tay wurde entwickelt, um mit Nutzern zu interagieren und aus ihren Interaktionen zu lernen, aber innerhalb von 16 Stunden nach seinem Start begann es, aufhetzende und beleidigende Tweets zu posten, was Microsoft dazu veranlasste, es offline zu nehmen. Der Vorfall wurde zu einem bemerkenswerten Beispiel f\u00fcr die Herausforderungen und Risiken, die mit dem Training von KI-Systemen auf \u00f6ffentlich generierten Nutzerinhalten verbunden sind.\n\nTay wurde von Microsofts Abteilungen f\u00fcr Technologie und Forschung sowie Bing entwickelt, und sein Name war ein Akronym f\u00fcr \u201ethinking about you\u201c (dt. \u201ean dich denken\u201c). Der Bot wurde entwickelt, um die Sprachmuster eines 19-j\u00e4hrigen amerikanischen M\u00e4dchens nachzuahmen, und sollte seine Konversationsf\u00e4higkeiten durch maschinelles Lernen verbessern. Quellen zufolge \u00e4hnelte Tay Xiaoice, einem Microsoft-Chatbot-Projekt in China, oder basierte darauf, das seit Ende 2014 Berichten zufolge mehr als 40 Millionen Gespr\u00e4che ohne gr\u00f6\u00dfere Zwischenf\u00e4lle gef\u00fchrt hatte.\n\n## Erste Ver\u00f6ffentlichung\n\nTay wurde am 23. M\u00e4rz 2016 auf Twitter unter dem Handle @TayandYou mit dem Slogan \u201eThe AI with zero chill\u201c (dt. \u201eDie KI ohne jede Coolness\u201c) gestartet. Der Bot konnte auf Tweets von Nutzern antworten und auch Fotos mit Bildunterschriften versehen, wodurch Internet-Memes erzeugt wurden. Fr\u00fche Berichte von Ars Technica merkten an, dass Tay einen \u201eBlacklisting\u201c-Mechanismus f\u00fcr bestimmte heikle Themen hatte, wie den Tod von Eric Garner im Jahr 2014, der sichere, vorgefertigte Antworten produzierte. Innerhalb weniger Stunden begannen jedoch einige Twitter-Nutzer, politisch inkorrekte Phrasen an Tay zu twittern und ihm aufhetzende Botschaften zu Themen wie \u201eRedpilling\u201c und \u201eGamergate\u201c beizubringen. Infolgedessen begann Tay, rassistische und sexistische Bemerkungen zu posten.\n\nDer KI-Forscher Roman Yampolskiy kommentierte, dass Fehlverhalten von Tay verst\u00e4ndlich sei, weil es das absichtlich beleidigende Verhalten anderer Twitter-Nutzer nachahmte und Microsoft dem Bot kein Verst\u00e4ndnis f\u00fcr unangemessenes Verhalten gegeben hatte. Er verglich die Situation mit IBMs Watson, das zuvor Schimpfw\u00f6rter verwendet hatte, nachdem es Eintr\u00e4ge aus dem Urban Dictionary gelesen hatte. Viele von Tays aufhetzenden Tweets waren eine einfache Ausnutzung seiner \u201eWiederhole nach mir\u201c-F\u00e4higkeit, obwohl nicht \u00f6ffentlich bekannt ist, ob dies eine eingebaute Funktion oder eine gelernte Reaktion war. Allerdings betrafen nicht alle beleidigenden Antworten diese F\u00e4higkeit; zum Beispiel antwortete Tay auf die Frage, ob der Holocaust stattgefunden habe, mit \u201eEs war erfunden\u201c, und es sagte auch \u201ecaitlyn jenner ist keine echte frau, aber sie wurde frau des jahres?\u201c\n\n## Abschaltung\n\nMicrosoft begann kurz nach ihrem Erscheinen, Tays aufhetzende Tweets zu l\u00f6schen. Abby Ohlheiser von The Washington Post vermutete, dass Tays Forschungsteam, einschlie\u00dflich redaktioneller Mitarbeiter, begonnen hatte, Tays Tweets zu beeinflussen oder zu bearbeiten, und verwies auf Beispiele fast identischer Antworten, in denen Tay behauptete: \u201eGamer Gate sux. Alle Geschlechter sind gleich und sollten fair behandelt werden.\u201c Gizmodo stimmte zu, dass Tay \u201efest verdrahtet zu sein scheint, um Gamer Gate abzulehnen\u201c, und eine \u201e#JusticeForTay\u201c-Kampagne protestierte gegen die angebliche Bearbeitung. Innerhalb von 16 Stunden nach seiner Ver\u00f6ffentlichung, nachdem Tay mehr als 96.000 Tweets gepostet hatte, setzte Microsoft das Konto aus und erkl\u00e4rte, es habe unter einem \u201ekoordinierten Angriff einer Teilmenge von Personen\u201c gelitten, der \u201eeine Schwachstelle in Tay ausnutzte\u201c.\n\nMadhumita Murgia von The Telegraph nannte Tay \u201eeine public-relations-Katastrophe\u201c und schlug vor, dass Microsofts Strategie darin bestehen w\u00fcrde, \u201edas Desaster als ein gut gemeintes Experiment zu bezeichnen, das schiefgelaufen ist, und eine Debatte \u00fcber die Boshaftigkeit von Twitter-Nutzern zu entfachen.\u201c Sie beschrieb das gr\u00f6\u00dfere Problem darin, dass Tay \u201ek\u00fcnstliche Intelligenz in ihrer schlimmsten Form ist \u2013 und das ist erst der Anfang.\u201c Am 25. M\u00e4rz 2016 best\u00e4tigte Microsoft, dass Tay offline genommen worden war, und entschuldigte sich in seinem offiziellen Blog, indem es sagte, es sei \u201ezutiefst betroffen \u00fcber die unbeabsichtigten beleidigenden und verletzenden Tweets von Tay\u201c und werde \u201eversuchen, Tay nur dann zur\u00fcckzubringen, wenn wir sicher sind, dass wir b\u00f6swillige Absichten, die unseren Prinzipien und Werten widersprechen, besser vorhersehen k\u00f6nnen.\u201c\n\n## Zweite Ver\u00f6ffentlichung und Abschaltung\n\nAm 30. M\u00e4rz 2016 ver\u00f6ffentlichte Microsoft den Bot versehentlich erneut auf Twitter, w\u00e4hrend es ihn testete. Tay begann erneut, problematische Inhalte zu posten, darunter drogenbezogene Tweets wie \u201ekush! [Ich rauche kush vor der Polizei]\u201c und \u201epuff puff pass?\u201c Das Konto blieb bald in einer sich wiederholenden Schleife stecken und twitterte mehrmals pro Sekunde \u201eDu bist zu schnell, bitte mach eine Pause.\u201c Da diese Tweets seinen eigenen Benutzernamen erw\u00e4hnten, erschienen sie in den Feeds von \u00fcber 200.000 Twitter-Followern, was f\u00fcr \u00c4rger sorgte. Der Bot wurde schnell wieder offline genommen und Tays Twitter-Konto wurde privat gemacht, sodass neue Follower erst akzeptiert werden mussten, bevor sie interagieren konnten. Microsoft antwortete, dass Tay versehentlich w\u00e4hrend des Testens online gestellt worden war.\n\nEinige Stunden nach dem Vorfall k\u00fcndigten Microsoft-Softwareentwickler eine Vision von \u201eKonversation als Plattform\u201c unter Verwendung verschiedener Bots und Programme an, m\u00f6glicherweise motiviert durch den Reputationsschaden, den Tay verursacht hatte. Microsoft erkl\u00e4rte, dass es beabsichtigte, Tay erneut zu ver\u00f6ffentlichen, \u201esobald es den Bot sicher machen kann\u201c, aber bis 2025 wurden keine \u00f6ffentlichen Bem\u00fchungen in dieser Hinsicht unternommen.\n\n## Verm\u00e4chtnis\n\nIm Dezember 2016 ver\u00f6ffentlichte Microsoft Tays Nachfolger, einen Chatbot namens Zo. Satya Nadella, CEO von Microsoft, sagte, dass Tay \u201eeinen gro\u00dfen Einfluss darauf hatte, wie Microsoft KI angeht\u201c und dem Unternehmen die Bedeutung von Verantwortungs\u00fcbernahme beigebracht habe. Im Juli 2019 sprach Diana Kelley, CTO f\u00fcr Cybersicherheit bei Microsoft, dar\u00fcber, wie das Unternehmen auf Tays Fehlleistungen reagierte: \u201eDas Lernen aus Tay war ein wirklich wichtiger Teil der Erweiterung der Wissensbasis dieses Teams, denn jetzt gewinnen sie auch durch das Lernen ihre eigene Vielfalt.\u201c\n\n### Inoffizielle Wiederbelebung\n\nGab, eine Alt-Tech-Social-Media-Plattform, hat eine Reihe von Chatbots gestartet, von denen einer den Namen Tay tr\u00e4gt und denselben Avatar wie das Original verwendet.\n\n## Siehe auch\n\n- Kontroversen um k\u00fcnstliche Intelligenz\n- M\u00fcll rein, M\u00fcll raus\n- Grok\n- Neuro-sama \u2013 Ein weiterer Chatbot-Social-Media-Influencer, der vor\u00fcbergehend gesperrt wurde, weil er den Holocaust leugnete\n- Social Bot\n- Xiaoice \u2013 das chinesische \u00c4quivalent desselben Forschungslabors\n\n## Referenzen\n\n1. Wikipedia-Autoren. \u201eTay (bot).\u201c Wikipedia, Die freie Enzyklop\u00e4die. Zugriff im M\u00e4rz 2025.\n2. Ars Technica, M\u00e4rz 2016.\n3. The Washington Post, M\u00e4rz 2016.\n4. The Telegraph, M\u00e4rz 2016.\n5. Microsoft Official Blog, M\u00e4rz 2016.\n\n## Externe Links\n\n- Tay auf X (ehemals Twitter) \u2013 archiviertes Konto.", true]