2016-03-23
微软 Tay 聊天机器人在 16 小时内变得种族主义——第一场病毒式传播的 AI 安全崩溃
事件摘要
2016 年 3 月 23 日，微软推出了 Tay——一个旨在通过对话学习、通过互动
影响评估
-
风险制造 -1 · 长期
第一个病毒式 AI 安全事件。证明了从非过滤人类输入学习的 AI 会迅速吸收有毒行为。成为 AI 安全的决定性案例研究，直接影响内容过滤器和 RLHF 的发展。
受影响群体: general public、Microsoft、AI researchers、platform companies
共识度与来源
重要度
L1
分类
安全伦理 / 产品工具
共识度
广泛共识
影响指数
5/10
-
1
Tay was a chatbot released by Microsoft on March 23, 2016. It caused controversy when the bot began to post inflammatory and offensive tweets, causing Microsoft to shut down the service only 16 hours after its launch.参考证据 引用已记录 原文可访问
-
2
Microsoft deeply sorry for racist and sexist tweets by AI chatbot.新闻报道 引用已记录 原文可访问