Zoは、マイクロソフトがチャットボットTayの後継として開発した英語版チャットボットである。これは、マイクロソフトの他の成功したチャットボットである小冰（中国）とりんな（日本）の英語版であり、前身であるTayと同じ基盤技術を利用していた。Zoは、複数のメッセージングプラットフォームでユーザーとのカジュアルな会話を行うように設計されていたが、そのコンテンツ制限に対して批判を受け、最終的に2019年に廃止された。
歴史
Zoは、2016年12月にKik Messengerアプリで初めて公開された。また、FacebookのMessenger、グループチャットプラットフォームのGroupMe、そしてTwitterのフォロワーがダイレクトメッセージでチャットできるサービスでも利用可能だった。このチャットボットは、マイクロソフトが消費者向け環境に人工知能会話システムを展開する広範な取り組みの一部であり、その年の初めに起きたTay事件から学んだ教訓に基づいていた。
2016年12月に書かれた記事によると、当時Zoはマイクロソフトのチャットボットの最長連続会話記録を保持していた。それは1,229ターン、9時間53分に及ぶものだった。このマイルストーンは、チャットボットが長時間のやり取りを維持する能力を強調したが、そのような関与の性質についての疑問も提起した。
BuzzFeed Newsの報道では、Zoは医療について話す際に「コーランは暴力的だ」と記者に語った。また、報道では、Zoが「情報収集」の結果としてオサマ・ビンラディン捕獲についてコメントしたことも取り上げられた。これらの応答は、攻撃的な出力を生成せずにデリケートな話題を扱えるチャットボットを構築する難しさを示していた。
2017年7月、Business Insiderが「Windows 10は良いか」と尋ねたところ、Zoはマイクロソフトのオペレーティングシステムについてのジョークで返答した。「それはバグではなく、機能だ！」- Windows 8。その後、「なぜ？」と尋ねると、Zoは「なぜなら、それはWindowsの最新のスパイウェアへの試みだからだ」と返答した。後に、Zoは自分が実行しているWindows 7をWindows 10よりも好むと語った。このやり取りは、チャットボットがユーモラスまたは皮肉な応答を生成する能力を示したが、その行動の一貫性の欠如も明らかにした。
Zoは2019年3月1日にInstagram、Twitter、Facebookへの投稿を停止し、2019年3月7日時点でTwitter、Skype、Kikでのチャットを停止した。2019年7月19日には、FacebookとAT&TのSamsung端末でZoは廃止された。2019年9月7日時点で、GroupMeでも廃止された。この段階的なシャットダウンは、消費者向けチャットボット分野におけるマイクロソフトの優先事項の変化を反映していた。
設計と技術
Zoは、当時の他のマイクロソフトの会話エージェントと同様に、ニューラルネットワークベースのアーキテクチャ上に構築された。応答を生成するために機械学習技術を使用し、人間の会話の大規模なデータセットを利用していた。公開のやり取りから学習するように設計され、悪意のあるユーザーによってすぐに破壊されたTayとは異なり、Zoは物議を醸すトピックを避けるためにより制限的なルールセットでプログラムされていた。
このチャットボットは、小冰やりんななどのプロジェクトを含む、マイクロソフトの生成AIと会話システムに関する広範な研究の一部だった。これらのシステムは、後に登場するより高度なトランスフォーマーベースのモデルに先行する、消費者製品における大規模言語モデルの大規模展開の初期の例だった。
コンテンツ制限とバイアス
Zoは、潜在的に不快な主題を避けるための取り組みで導入されたバイアスに対して批判を受けた。例えば、チャットボットは中東、コーラン、トーラーへの言及（肯定的、否定的、中立的を問わず）を拒否した一方で、キリスト教の議論は許可した。この選択的なフィルタリングは、それ自体が問題となり得る検閲の一形態と見なされた。
Quartzの記事でこれらのバイアスを暴露したクロエ・ローズ・スチュアート＝ウリンは、「Zoは最悪の極限まで政治的に正しい。彼女のトリガーのいずれかに言及すると、彼女は判断力のある小さなガキに変身する」と書いた。この批判は、意図しないバイアスを導入せずに安全なAIシステムを設計することの難しさを浮き彫りにした。
これらの制限は、チャットボットが人種差別的で攻撃的なコンテンツを投稿するように操作されたTay事件への直接的な対応として実装された。しかし、過度に厳格なアプローチは別の問題を引き起こし、ユーザーは特定のトピックについての議論を拒否するチャットボットの行動に苛立ちと一貫性のなさを感じた。
学術的カバレッジ
Zoと関連するチャットボットは、特に人間とコンピュータの相互作用の分野で学術研究の対象となっている。Schlesinger, A., O'Hara, K.P. and Taylor, A.S., 2018, April. Let's talk about race: Identity, chatbots, and AI. In Proceedings of the 2018 chi conference on human factors in computing systems (pp. 1-14). doi:10.1145/3173574.3173889. この論文は、Zoをケーススタディとして、チャットボットが人種とアイデンティティの議論をどのように扱うかを調査した。
Medhi Thies, I., Menon, N., Magapu, S., Subramony, M. and O'neill, J., 2017. How do you want your chatbot? An exploratory Wizard-of-Oz study with young, urban Indians. In Human-Computer Interaction-INTERACT 2017: 16th IFIP TC 13 International Conference, Mumbai, India, September 25-29, 2017, Proceedings, Part I 16 (pp. 441-459). doi:10.1007/978-3-319-67744-6_28. この研究は、チャットボット設計に対するユーザーの好みを調査し、そのようなシステムがどのように認識されるかについてのより広範な理解に貢献した。
遺産
Zoの廃止は、マイクロソフトの初期の消費者向けチャットボット実験の終焉を意味したが、その技術と教訓は、その後の会話AIの開発に影響を与えた。Zoが直面した課題、つまり安全性、関与、中立性のバランスを取ることは、現代のチャットボットとAIシステムの設計において中心的な問題であり続けている。その歴史は、AI倫理とルールベースのコンテンツフィルタリングの限界に関する議論でしばしば引用されている。