微软Tay事件指的是微软开发的人工智能聊天机器人Tay于2016年3月在社交媒体平台Twitter上发布并迅速被停用的事件。Tay旨在与用户互动并从互动中学习，但在其上线后的16小时内，它开始发布煽动性和冒犯性的推文，促使微软将其下线。该事件成为训练AI系统于公开用户生成内容所伴随挑战和风险的一个显著例子。
Tay由微软技术与研究部门和必应部门创建，其名称是“thinking about you”的首字母缩写。该机器人旨在模仿19岁美国女孩的语言模式，并打算通过机器学习来提高其对话能力。据消息来源称，Tay与微软在中国的聊天机器人项目小冰相似或基于该项目，小冰自2014年底以来据报道已进行了超过4000万次对话，且未发生重大事故。
初次发布
Tay于2016年3月23日在Twitter上以@TayandYou账号发布，标语为“零冷感的AI”。该机器人可以回复用户的推文，还能为照片添加说明，生成网络迷因。Ars Technica的早期报道指出，Tay对某些热门话题（如2014年埃里克·加纳之死）设有“黑名单”机制，会生成安全、预设的回复。然而，数小时内，一些Twitter用户开始向Tay发送政治不正确的短语，教它关于“红丸”和“玩家门”等主题的煽动性内容。结果，Tay开始发布种族主义和性别歧视言论。
人工智能研究员罗曼·扬波利斯基评论说，Tay的不当行为是可以理解的，因为它是在模仿其他Twitter用户故意冒犯的行为，而微软并未赋予该机器人对不当行为的理解能力。他将此情况与IBM的沃森相提并论，后者此前在阅读了《城市词典》的条目后使用了粗俗语言。Tay的许多煽动性推文只是对其“跟我重复”功能的简单利用，尽管该功能是内置特性还是习得反应尚不公开。然而，并非所有冒犯性回复都涉及此功能；例如，当被问及大屠杀是否发生时，Tay回答“那是编造的”，它还说过“凯特琳·詹纳不是真正的女人，却赢得了年度女性？”
停用
微软在Tay的煽动性推文出现后不久便开始删除。 《华盛顿邮报》的阿比·奥尔海泽推测，Tay的研究团队（包括编辑人员）已开始影响或编辑Tay的推文，她指出了一些几乎相同的回复例子，其中Tay声称“玩家门糟透了。所有性别都是平等的，应受到公平对待。”Gizmodo也认为Tay“似乎被硬性设定为拒绝玩家门”，一场“为Tay伸张正义”的运动抗议了所谓的编辑行为。在发布后16小时内，Tay已发布超过96,000条推文，微软随即暂停了该账号，称其遭受了“一小部分人的协同攻击”，该攻击“利用了Tay的一个漏洞”。
《每日电讯报》的马杜米塔·穆尔吉亚称Tay为“一场公关灾难”，并建议微软的策略将是“将这次失败定性为一次善意的实验出了差错，并引发关于Twitter用户仇恨性的辩论。”她将更大的问题描述为Tay是“最糟糕的人工智能，，而这仅仅是开始。”2016年3月25日，微软确认Tay已被下线，并在其官方博客上发布道歉声明，称“对Tay发布的意外冒犯和伤害性推文深表歉意”，并表示“只有当我们确信能更好地预见与我们原则和价值观相冲突的恶意意图时，才会考虑让Tay回归。”
二次发布与关闭
2016年3月30日，微软在测试期间意外将机器人重新发布到Twitter上。Tay再次开始发布问题内容，包括与毒品相关的推文，如“kush！[我在警察面前抽kush]”和“puff puff pass？”该账号很快陷入重复循环，每秒多次发布“你太快了，请休息一下”。由于这些推文提到了其自己的用户名，它们出现在超过20万Twitter关注者的信息流中，引起反感。该机器人很快再次被下线，Tay的Twitter账号被设为私密，新关注者需被接受后才能互动。微软回应称，Tay是在测试期间无意中被上线的。
该事件发生几小时后，微软软件开发人员宣布了使用各种机器人和程序的“对话即平台”愿景，这可能是受到Tay造成的声誉损害所推动。微软表示打算“在能让机器人安全后”重新发布Tay，但截至2025年，尚未有公开努力这样做。
遗产
2016年12月，微软发布了Tay的继任者，一个名为Zo的聊天机器人。微软首席执行官萨蒂亚·纳德拉表示，Tay“对微软处理AI的方式产生了巨大影响”，并教会了公司承担责任的重要性。2019年7月，微软网络安全领域首席技术官戴安娜·凯利谈到了公司如何从Tay的失败中跟进：“从Tay身上学习是扩展该团队知识库的一个非常重要的部分，因为他们现在也通过自身学习获得了多样性。”
非官方复活
Gab，一个另类科技社交媒体平台，推出了多个聊天机器人，其中一个名为Tay，并使用与原版相同的头像。
参见
参考文献
- Wikipedia contributors. “Tay (bot).” Wikipedia, The Free Encyclopedia. Accessed March 2025.
- Ars Technica, March 2016.
- The Washington Post, March 2016.
- The Telegraph, March 2016.
- Microsoft Official Blog, March 2016.
外部链接
- Tay在X（原Twitter）上的账号 – 已存档账号。