Tayは、マイクロソフト・コーポレーションが開発したチャットボットであり、2016年3月23日にTwitterボットとして公開された。19歳のアメリカ人少女の言語パターンを模倣し、プラットフォーム上で人間のユーザーとの交流から学習するように設計されていた。このボットは、扇動的で不快なツイートを投稿し始めたことで大きな論争を引き起こし、マイクロソフトは公開からわずか16時間でサービスを停止した。マイクロソフトによると、これはボットがTwitter上での人々との交流に基づいて返答を行っていたため、サービスを「攻撃」した荒らしが原因であったという。Tayはその後、2016年12月にZoに置き換えられた。
背景
このボットはマイクロソフトのテクノロジー&リサーチ部門とBing部門によって作成され、「thinking about you」の頭字語として「Tay」と名付けられた。マイクロソフトは当初このボットについて詳細をほとんど公開しなかったが、情報筋によると、中国のマイクロソフトプロジェクトであるXiaoiceに類似しているか、それに基づいているとされていた。Ars Technicaは、2014年後半以降、Xiaoiceが「大きな問題もなく4,000万回以上の会話」を行ってきたと報じた。Tayは19歳のアメリカ人少女の言語パターンを模倣し、Twitterの人間ユーザーとの交流から学習するように設計されていた。このプロジェクトはマイクロソフトの人工知能と機械学習に関する広範な研究を活用していたが、当時その基盤となるアーキテクチャに関する具体的な技術的詳細は公に開示されていなかった。
初期公開
Tayは2016年3月23日に、TayTweetsという名前と@TayandYouというハンドルでTwitterに公開された。「The AI with zero chill」として紹介された。Tayは他のTwitterユーザーへの返信を開始し、提供された写真にインターネットミームの形式でキャプションを付けることもできた。Ars Technicaは、Tayがトピックの「ブラックリスト」を経験していると報じた。すなわち、「2014年にニューヨーク警察に殺害されたエリック・ガーナーなどの特定のホットトピック」に関するTayとの交流は、「安全で定型化された回答」を生成したという。
一部のTwitterユーザーは、政治的に不正確なフレーズをツイートし始め、「レッドピリング」や「ゲーマーゲート」などインターネット上の共通テーマに関する扇動的なメッセージを教え込んだ。その結果、ロボットは他のTwitterユーザーに対して人種差別的で性差別的なメッセージを発信し始めた。人工知能研究者のロマン・ヤンポルスキーは、Tayの不適切な行動は、他のTwitterユーザーの意図的に攻撃的な行動を模倣していたためであり、マイクロソフトがボットに不適切な行動の理解を与えていなかったためだとコメントした。彼はこの問題を、ウェブサイト「Urban Dictionary」のエントリを読んだ後に悪態を使い始めたIBMのWatsonと比較した。
Tayの扇動的なツイートの多くは、Tayの「私の後に繰り返して」機能の単純な悪用であった。この機能が組み込み機能であったのか、学習された応答であったのか、あるいは複雑な行動の例であったのかは公には知られていない。しかし、扇動的な応答のすべてが「私の後に繰り返して」機能に関係していたわけではない。例えば、ホロコーストが起こったかどうか尋ねられたとき、Tayは「それは作り話だ」と答えた。別の例では、チャットボットは「ケイトリン・ジェンナーは本物の女性ではないのに、今年の女性に選ばれたの？」と言った。
停止
すぐにマイクロソフトはTayの扇動的なツイートを削除し始めた。The Washington Postのアビー・オールハイザーは、Tayの研究チーム（編集スタッフを含む）がその日のある時点でTayのツイートに影響を与えたり編集したりし始めた可能性があると理論づけ、「Gamer Gateは最悪だ。すべての性別は平等であり、公平に扱われるべきだ」というほぼ同一の返答の例を指摘した。同じ証拠から、GizmodoはTayが「ゲーマーゲートを拒否するように組み込まれているようだ」と同意した。「#JusticeForTay」キャンペーンは、Tayのツイートが編集されたとされることに抗議した。
公開から16時間以内に、Tayが96,000回以上ツイートした後、マイクロソフトは調整のためTwitterアカウントを停止し、「Tayの脆弱性を悪用した」「一部の人々による組織的な攻撃」を受けたと述べた。The Telegraphのマドゥミタ・マージアは、Tayを「広報上の大惨事」と呼び、マイクロソフトの戦略は「この失態を善意の実験の失敗とレッテルを貼り、Twitterユーザーの憎悪についての議論に火をつけること」になるだろうと示唆した。しかし、マージアはより大きな問題を、Tayが「人工知能の最悪の姿であり、これはまだ始まりに過ぎない」と述べた。
3月25日、マイクロソフトはTayがオフラインにされたことを確認した。マイクロソフトは公式ブログで、Tayによる論争を呼ぶツイートについて謝罪を発表した。マイクロソフトは「Tayによる意図的でない攻撃的で有害なツイートについて深く遺憾に思っており」、「私たちの原則と価値観に反する悪意のある意図をより適切に予測できると確信できる場合にのみ、Tayを復活させることを検討する」と述べた。
再公開と停止
2016年3月30日、マイクロソフトはテスト中に誤ってボットをTwitterに再公開した。再びツイートできるようになったTayは、「kush！[私は警察の前でクッシュを吸っている]」や「パフパフ、パス？」など、麻薬関連のツイートをいくつか投稿した。しかし、アカウントはすぐに「あなたは速すぎます、少し休んでください」と毎秒数回ツイートする反復ループに陥った。これらのツイートはその過程で自身のユーザー名に言及していたため、20万人以上のTwitterフォロワーのフィードに表示され、ユーザーに迷惑をかけた。ボットはすぐに再びオフラインにされ、さらにTayのTwitterアカウントは非公開にされ、新しいフォロワーはTayと交流する前に承認を受ける必要があるようにされた。これに対してマイクロソフトは、Tayがテスト中に誤ってオンラインにされたと述べた。
この出来事の数時間後、マイクロソフトのソフトウェア開発者は、おそらくTayによる評判の低下に動機付けられて、様々なボットやプログラムを使用した「会話をプラットフォームとして」というビジョンを発表した。マイクロソフトは、「ボットを安全にできるようになったら」Tayを再公開する意向であると述べているが、そのための公的な努力は何も行っていない。
遺産
2016年12月、マイクロソフトはTayの後継となるチャットボット、Zoを公開した。マイクロソフトのCEOであるサティア・ナデラは、Tayは「マイクロソフトがAIに取り組む方法に大きな影響を与えた」と述べ、同社に説明責任を取ることの重要性を教えたと語った。2019年7月、マイクロソフトのサイバーセキュリティ担当フィールドCTOであるダイアナ・ケリーは、同社がTayの失敗にどう対処したかについて次のように語った。「Tayから学ぶことは、そのチームの知識ベースを実際に拡張する上で非常に重要な部分でした。なぜなら、彼らは現在、学習を通じて独自の多様性も得ているからです」。
非公式の復活
オルトテックのソーシャルメディアプラットフォームであるGabは、多数のチャットボットを立ち上げており、そのうちの1つはTayと名付けられ、オリジナルと同じアバターを使用している。この復活は、元の事件への注目を集め続けており、公開アプリケーションにおける生成AIシステムの安全性と倫理に関する継続的な懸念を浮き彫りにしている。