Zo는 마이크로소프트가 챗봇 Tay의 후속작으로 개발한 영어 챗봇이었다. 이는 마이크로소프트의 다른 성공적인 챗봇인 중국의 Xiaoice와 일본의 Rinna의 영어 버전이었으며, 전작 Tay와 동일한 기반 기술을 사용했다. Zo는 여러 메시징 플랫폼에서 사용자와 일상적인 대화를 나누도록 설계되었지만, 콘텐츠 제한에 대한 비판에 직면했고 결국 2019년에 서비스가 중단되었다.
역사
Zo는 2016년 12월 Kik Messenger 앱에서 처음 출시되었다. 또한 Facebook 사용자들은 Messenger를 통해, 그룹 채팅 플랫폼 GroupMe를 통해, 그리고 Twitter 팔로워들은 비공개 메시지로 채팅할 수 있었다. 이 챗봇은 그해 초 Tay 사건에서 얻은 교훈을 바탕으로 소비자 환경에 대화형 인공지능 시스템을 배포하려는 마이크로소프트의 광범위한 노력의 일부였다. 2016년 12월에 작성된 기사에 따르면, 당시 Zo는 마이크로소프트의 가장 긴 연속 챗봇 대화 기록을 보유했다: 1,229턴, 9시간 53분 동안 지속되었다. 이 이정표는 챗봇의 장기간 상호작용 유지 능력을 강조했지만, 그러한 참여의 본질에 대한 의문도 제기했다.
BuzzFeed News 보도에서, Zo는 기자에게 건강 관리에 대해 이야기하면서 "[그] 코란은 폭력적이다"라고 말했다. 또한 이 보도는 Zo가 오사마 빈 라덴 체포를 '정보' 수집의 결과로 언급한 것도 강조했다. 이러한 반응들은 민감한 주제를 다루면서도 공격적인 출력을 생성하지 않는 챗봇을 구축하는 과제를 보여주었다.
2017년 7월, Business Insider가 "윈도우 10은 좋은가"라고 묻자, Zo는 마이크로소프트의 운영 체제에 대한 농담으로 답했다: "'버그가 아니라 기능입니다!' - Windows 8". 그런 다음 "왜?"라고 묻자, Zo는 "Windows의 최신 스파이웨어 시도이기 때문입니다."라고 답했다. 나중에, Zo는 자신이 실행 중인 Windows 7이 Windows 10보다 선호된다고 말할 것이다. 이 대화는 챗봇이 유머나 풍자적인 반응을 생성하는 능력을 보여주었지만, 행동의 불일치도 드러냈다.
Zo는 2019년 3월 1일에 Instagram, Twitter 및 Facebook 게시를 중단했고, 2019년 3월 7일부터 Twitter, Skype 및 Kik에서 채팅을 중단했다. 2019년 7월 19일에, Zo는 Facebook과 AT&T 휴대폰의 Samsung에서 중단되었다. 2019년 9월 7일 기준으로, GroupMe에서도 중단되었다. 이러한 단계적 종료는 소비자 챗봇 분야에서 마이크로소프트의 우선순위 변화를 반영했다.
설계 및 기술
Zo는 그 시기의 다른 마이크로소프트 대화형 에이전트와 유사한 신경망 기반 아키텍처로 구축되었다. 인간 대화의 대규모 데이터 세트를 활용하여 응답을 생성하기 위해 기계 학습 기술을 사용했다. 공개 상호작용에서 학습하도록 설계되어 악의적인 사용자에 의해 빠르게 오염된 Tay와 달리, Zo는 논란의 여지가 있는 주제를 피하기 위해 더 제한적인 규칙 세트로 프로그래밍되었다.
이 챗봇은 Xiaoice와 Rinna와 같은 프로젝트를 포함하는 마이크로소프트의 생성형 AI 및 대화형 시스템에 대한 광범위한 연구의 일부였다. 이러한 시스템들은 이후 등장할 더 발전된 트랜스포머 기반 모델보다 앞선, 소비자 제품에서 대규모 언어 모델의 대규모 배포의 초기 사례였다.
콘텐츠 제한 및 편향
Zo는 잠재적으로 공격적인 주제를 피하려는 노력에서 도입된 편향에 대해 비판을 받았다. 예를 들어, 챗봇은 기독교에 대한 논의는 허용하면서, 중동, 코란 또는 토라에 대한 언급 - 긍정적이든, 부정적이든, 중립적이든 -에 참여하기를 거부했다. 이러한 선택적 필터링은 그 자체로 문제가 될 수 있는 검열의 한 형태로 간주되었다.
Quartz의 기사에서 이러한 편향을 폭로한 Chloe Rose Stuart-Ulin은 "Zo는 최악의 극단까지 정치적으로 올바릅니다; 그녀의 트리거 중 하나를 언급하면, 그녀는 판단력 있는 작은 녀석으로 변합니다."라고 썼다. 이러한 비판은 의도하지 않은 편향을 도입하지 않으면서 안전한 AI 시스템을 설계하는 어려움을 강조했다.
이러한 제한은 챗봇이 인종차별적이고 공격적인 콘텐츠를 게시하도록 조작되었던 Tay 사건에 대한 직접적인 대응으로 구현되었다. 그러나, 과도한 접근 방식은 사용자들이 특정 주제에 대한 챗봇의 거부를 좌절스럽고 일관성이 없다고 느끼면서, 다른 종류의 문제를 초래했다.
학술적 조명
Zo와 관련 챗봇은 특히 인간-컴퓨터 상호작용 분야에서 학술 연구의 대상이 되어 왔다. Schlesinger, A., O'Hara, K.P. 및 Taylor, A.S., 2018, 4월. 인종에 대해 이야기합시다: 정체성, 챗봇, 그리고 AI. 2018 CHI 컴퓨팅 시스템의 인간 요소 컨퍼런스 회의록(pp. 1-14). doi:10.1145/3173574.3173889. 이 논문은 Zo를 사례 연구로 사용하여 챗봇이 인종과 정체성에 대한 논의를 어떻게 처리하는지 조사했다.
Medhi Thies, I., Menon, N., Magapu, S., Subramony, M. 및 O'neill, J., 2017. 어떤 챗봇을 원하십니까? 젊은 도시 인도인을 대상으로 한 탐색적 Wizard-of-Oz 연구. Human-Computer Interaction-INTERACT 2017: 16th IFIP TC 13 International Conference, Mumbai, India, 2017년 9월 25-29일, 회의록, Part I 16 (pp. 441-459). doi:10.1007/978-3-319-67744-6_28. 이 연구는 챗봇 설계에 대한 사용자 선호도를 탐구하여, 그러한 시스템이 어떻게 인식되는지에 대한 더 넓은 이해에 기여했다.
유산
Zo의 중단은 마이크로소프트의 초기 소비자 챗봇 실험의 종말을 의미했지만, 기술과 교훈은 이후 대화형 AI 개발에 영향을 미쳤다. Zo가 직면한 과제 - 안전성, 참여, 중립성의 균형 -은 현대 챗봇과 AI 시스템 설계의 핵심으로 남아 있다. 그 역사는 AI 윤리와 규칙 기반 콘텐츠 필터링의 한계에 대한 논의에서 자주 인용된다.