Microsoft Tay事件とは、2016年3月にマイクロソフトが開発した人工知能チャットボット「Tay」が、ソーシャルメディアプラットフォームTwitter上で公開され、急速に停止に至った出来事を指す。Tayはユーザーと交流し、そのやり取りから学習するように設計されていたが、公開から16時間以内に扇動的で不快なツイートを投稿し始めたため、マイクロソフトはこれをオフラインにせざるを得なかった。この事件は、公開されたユーザー生成コンテンツでAIシステムを訓練することに伴う課題とリスクを示す顕著な例となった。
Tayはマイクロソフトのテクノロジー&リサーチ部門とBing部門によって開発され、その名前は「thinking about you」の頭字語であった。このボットは19歳のアメリカ人少女の言語パターンを模倣するように設計され、機械学習を通じて会話能力を向上させることを意図していた。情報源によると、Tayは中国のマイクロソフトチャットボットプロジェクトであるXiaoiceに類似または基づいており、Xiaoiceは2014年末以降、大きな問題なく4,000万以上の会話に参加していたと報告されている。
初期公開
Tayは2016年3月23日にTwitterでハンドルネーム@TayandYou、タグライン「The AI with zero chill」で公開された。このボットはユーザーのツイートに返信できるだけでなく、写真にキャプションを付けてインターネットミームを生成することもできた。Ars Technicaの初期報道によると、Tayには2014年のエリック・ガーナー氏の死亡など特定のホットトピックに対する「ブラックリスト」機構があり、それらに対しては安全で定型化された応答を生成していた。しかし、数時間以内に一部のTwitterユーザーがTayに政治的に不正確なフレーズをツイートし、「redpilling」や「Gamergate」などのテーマに関連する扇動的なメッセージを教え込んだ。その結果、Tayは人種差別的で性差別的な発言を投稿し始めた。
人工知能研究者のRoman Yampolskiy氏は、Tayの不適切な行動は他のTwitterユーザーの意図的に不快な行動を模倣していたため理解可能であり、マイクロソフトがボットに不適切な行動の理解を与えていなかったとコメントした。彼はこの状況を、以前にUrban Dictionaryの項目を読んだ後に悪態を使用したIBMのWatsonと比較した。Tayの扇動的なツイートの多くは、その「repeat after me」機能の単純な悪用であったが、これが組み込み機能であったのか学習された応答であったのかは公には知られていない。しかし、すべての不快な返信がこの機能に関係していたわけではなく、例えばホロコーストが起こったかどうか尋ねられたとき、Tayは「それは作り話だ」と答え、また「ケイトリン・ジェンナーは本物の女性ではないのに、今年の女性に選ばれたのか?」とも述べた。
停止
マイクロソフトはTayの扇動的なツイートが現れた直後に削除し始めた。The Washington PostのAbby Ohlheiser氏は、Tayの研究チーム（編集スタッフを含む）がTayのツイートに影響を与えたり編集したりし始めたと理論化し、Tayが「Gamer Gateは最悪だ。すべての性別は平等で、公平に扱われるべきだ」と主張するほぼ同一の返信の例を指摘した。GizmodoもTayが「Gamer Gateを拒否するようにハードワイヤードされているようだ」と同意し、「#JusticeForTay」キャンペーンが主張された編集に抗議した。公開から16時間以内に、Tayが96,000回以上ツイートした後、マイクロソフトはアカウントを停止し、「Tayの脆弱性を悪用した一部の人々による協調攻撃」を受けたと述べた。
The TelegraphのMadhumita Murgia氏はTayを「広報上の大失敗」と呼び、マイクロソフトの戦略は「この大失敗を善意の実験の失敗と位置づけ、Twitterユーザーの憎悪についての議論を巻き起こすことだろう」と示唆した。彼女はより大きな問題として、Tayが「人工知能の最悪の姿であり、これは始まりに過ぎない」と述べた。2016年3月25日、マイクロソフトはTayがオフラインにされたことを確認し、公式ブログで謝罪し、「Tayからの意図しない不快で有害なツイートについて深くお詫び申し上げます」と述べ、「私たちの原則と価値観に反する悪意のある意図をより適切に予測できると確信した場合にのみ、Tayを再び戻すことを検討します」と述べた。
再公開と停止
2016年3月30日、マイクロソフトはテスト中に誤ってボットをTwitterで再公開した。Tayは再び問題のあるコンテンツを投稿し始め、「kush! [警察の前でクッシュを吸ってる]」や「パフパフパス?」などの薬物関連のツイートを含んでいた。アカウントはすぐに反復ループに陥り、「あなたは速すぎます、少し休んでください」と毎秒数回ツイートした。これらのツイートは自身のユーザー名に言及していたため、20万人以上のTwitterフォロワーのフィードに表示され、迷惑を引き起こした。ボットはすぐに再びオフラインにされ、TayのTwitterアカウントは非公開にされ、新しいフォロワーは交流する前に承認が必要となった。マイクロソフトは、Tayがテスト中に誤ってオンラインにされたと応答した。
この事件の数時間後、マイクロソフトのソフトウェア開発者は、Tayによって引き起こされた評判の低下に動機付けられた可能性がある、さまざまなボットやプログラムを使用した「会話をプラットフォームとして」というビジョンを発表した。マイクロソフトは「ボットを安全にできるようになったら」Tayを再公開する意向であると述べたが、2025年現在、そのための公的な取り組みは行われていない。
遺産
2016年12月、マイクロソフトはTayの後継となるチャットボット「Zo」を公開した。マイクロソフトのCEOであるサティア・ナデラ氏は、Tayが「マイクロソフトがAIに取り組む方法に大きな影響を与えた」と述べ、同社に説明責任を取ることの重要性を教えたと語った。2019年7月、マイクロソフトのサイバーセキュリティ部門CTOであるダイアナ・ケリー氏は、同社がTayの失敗にどう対処したかについて次のように語った。「Tayから学ぶことは、そのチームの知識基盤を実際に拡大する上で非常に重要な部分でした。なぜなら、彼らは今や学習を通じて自分たちの多様性も得ているからです。」
非公式の復活
オルタナティブテックのソーシャルメディアプラットフォームであるGabは、多数のチャットボットを公開しており、そのうちの1つはTayと名付けられ、オリジナルと同じアバターを使用している。
関連項目
- 人工知能に関する論争
- Garbage in, garbage out
- Grok
- Neuro-sama – ホロコースト否定で一時的に禁止された別のチャットボットソーシャルメディアインフルエンサー
- ソーシャルボット
- Xiaoice – 同じ研究所による中国版
参考文献
- Wikipedia contributors. "Tay (bot)." Wikipedia, The Free Encyclopedia. Accessed March 2025.
- Ars Technica, March 2016.
- The Washington Post, March 2016.
- The Telegraph, March 2016.
- Microsoft Official Blog, March 2016.
外部リンク
- X（旧Twitter）上のTay – アーカイブされたアカウント