Zo 是微软开发的英语聊天机器人,作为聊天机器人 Tay 的继任者。它是微软其他成功聊天机器人小冰(中国)和 Rinna(日本)的英语版本,并采用了与其前身 Tay 相同的底层技术。Zo 旨在与多个消息平台上的用户进行休闲对话,但因内容限制而受到批评,并最终于 2019 年停止服务。
历史
Zo 于 2016 年 12 月首次在 Kik Messenger 应用上推出,也可供 Facebook 用户通过 Messenger、群聊平台 GroupMe 以及 Twitter 粉丝通过私信聊天使用,该聊天机器人是微软在消费环境中部署对话式人工智能系统更广泛努力的一部分,汲取了当年早些时候 Tay 事件的教训,据 2016 年 12 月的一篇文章报道,当时 Zo 保持着微软最长持续聊天机器人对话的记录:1,229 轮,持续 9 小时 53 分钟,这一里程碑凸显了该聊天机器人维持长时间互动能力,但也引发了对这类互动性质的质疑,
在 BuzzFeed News 的一篇报道中,Zo 在谈论医疗保健时告诉他们的记者,“《古兰经》是暴力的”,该报道还指出,Zo 对奥萨马·本·拉登被捕的评论是‘情报’收集的结果,这些回应说明了构建一个既能处理敏感话题又不产生冒犯性输出的聊天机器人所面临的挑战,
2017 年 7 月,Business Insider 询问“windows 10 好吗”,Zo 用关于微软操作系统的笑话回答:“‘这不是 bug,这是功能!’,,Windows 8”,他们接着问“为什么?”,Zo 回答:“因为这是 Windows 最新一次尝试做间谍软件,”后来,Zo 会表示它更喜欢其运行所依赖的 Windows 7 而非 Windows 10,这段交流展示了该聊天机器人产生幽默或讽刺回应能力,但也揭示了其行为的不一致性,
Zo 于 2019 年 3 月 1 日停止在 Instagram、Twitter 和 Facebook 上发帖,并自 2019 年 3 月 7 日起停止在 Twitter、Skype 和 Kik 上聊天,2019 年 7 月 19 日,Zo 在 Facebook 以及 AT&T 手机上的三星设备上停止服务,截至 2019 年 9 月 7 日,它在 GroupMe 上停止服务,这一分阶段关闭反映了微软在消费聊天机器人领域优先事项的转变,
设计与技术
Zo 基于神经网络架构构建,类似于微软当时其他对话代理,它使用机器学习技术生成回应,借鉴大量人类对话数据集,与 Tay 不同,,Tay 被设计为从公共互动中学习并迅速被恶意用户破坏,,Zo 被编程了更严格的规则集以避免有争议的话题,
该聊天机器人是微软更广泛研究生成式 AI和对话系统的一部分,其中还包括小冰和 Rinna 等项目,这些系统是大型语言模型在消费产品中大规模部署的早期例子,早于后来出现的更先进transformer基模型,
内容限制与偏见
Zo 因在避免潜在冒犯性话题的努力中引入偏见而受到批评,例如,该聊天机器人拒绝参与任何提及,,无论是正面、负面还是中性的,,中东、《古兰经》或《托拉》的讨论,同时允许讨论基督教,这种选择性过滤被视为一种可能本身就有问题的审查形式,
在 Quartz 的一篇文章中,Chloe Rose Stuart-Ulin 揭露了这些偏见,她写道,“Zo 在政治上正确到了最糟糕的极端;提到她的任何触发点,她就会变成一个爱评判的小讨厌鬼,”这一批评凸显了设计安全 AI 系统而不引入意外偏见的困难,
这些限制是作为对 Tay 事件的直接回应而实施的,当时该聊天机器人被操纵发布了种族主义和冒犯性内容,然而,这种过度谨慎的做法导致了一系列不同的问题,因为用户发现该聊天机器人拒绝讨论某些话题既令人沮丧又不一致,
学术覆盖
Zo 及相关聊天机器人已成为学术研究的主题,特别是在人机交互领域,Schlesinger,A.,O'Hara,K.P. 和 Taylor,A.S.,2018 年 4 月,Let's talk about race: Identity,chatbots,and AI,In Proceedings of the 2018 chi conference on human factors in computing systems(第 1-14 页),doi:10.1145/3173574.3173889,本文以 Zo 为案例研究,考察了聊天机器人如何处理种族和身份讨论,
Medhi Thies,I.,Menon,N.,Magapu,S.,Subramony,M. 和 O'neill,J.,2017 年,How do you want your chatbot? An exploratory Wizard-of-Oz study with young,urban Indians,In Human-Computer Interaction-INTERACT 2017: 16th IFIP TC 13 International Conference,Mumbai,India,September 25-29,2017,Proceedings,Part I 16(第 441-459 页),doi:10.1007/978-3-319-67744-6_28,本研究探讨了用户对聊天机器人设计的偏好,有助于更广泛理解此类系统的感知方式,
遗产
Zo 的停止服务标志着微软早期消费聊天机器人实验的结束,尽管相关技术和经验教训影响了后来对话式 AI 的发展,Zo 面临的挑战,,平衡安全性、参与度和中立性,,仍然是现代聊天机器人和AI系统设计的核心问题,其历史在 AI 伦理和基于规则内容过滤局限性的讨论中经常被引用,