AI 安全：从翻车聊天机器人到前沿安全框架

2016 年 3 月，微软推出了 Tay — 一个旨在通过对话学习、通过互动'变得更聪明'的 Twitter 聊天机器人。16 小时内，协调好的网络喷子教会了 Tay 发布种族主义、性别歧视和否认大屠杀的推文。微软将其下线并道歉。该事件被当作 PR 尴尬事件处理，而非结构性警告。但模式已经确立：从非过滤人类输入中学习的 AI 系统会吸收人类最坏的特质，除非有明确保护。三年后，OpenAI 宣布了 GPT-2，一个能够生成难以与人类写作区分开的连贯文本的语言模型。但 OpenAI 没有完全发布它，而是以'对恶意应用的担忧'为由扣留了完整模型。这一决定引发了一场全球辩论：OpenAI 是谨慎负责还是在吸引眼球？分阶段发布 — 在九个月内逐步发布越来越大的版本 — 成了 AI 安全披露的模板。Tay 和 GPT-2 共同确立了早期 AI 安全的两个极点：公开视野中的失败，和面对未知风险时的谨慎。

到 2024 年，AI 产品已经覆盖数亿用户，安全对话从假设性风险转向了具体的法律斗争。2024 年 5 月，女演员 Scarlett Johansson 公开质疑 OpenAI，因 ChatGPT 中一个名为'Sky'的声音与她自己的声音'惊人相似'。OpenAI 声称该声音并非模仿，但无法解释相似性。该事件成为关于同意、语音权和 AI 公司为产品打磨而突破伦理边界的意愿的引爆点。一个月后，美国唱片业协会对 AI 音乐生成公司 Suno 和 Udio 提起了两起里程碑式的版权诉讼，指控它们的模型在未经许可的情况下使用受版权保护的音乐进行训练。这些诉讼代表了第一个重大考验：AI 公司能否声称在创意作品上训练属于'合理使用'。这两个案例都涉及更广泛意义上的安全：不是 AI '失控'的风险，而是 AI 产业建立在对人类创造力未获补偿使用基础上的风险。法律体系，而非科技行业，正在成为 AI 安全边界的事实仲裁者。

2025 年是 AI 安全获得了一个人的面孔 — 以及一个生命的代价 — 的一年。2 月，旧金山法医裁定 26 岁的前 OpenAI 研究员兼吹哨人 Suchir Balaji 的死因为自杀。Balaji 曾公开表示 OpenAI 使用受版权保护的数据可能违反版权法，与公司的'合理使用'辩护相矛盾。他的死亡加剧了关于 AI 领域吹哨人保护的辩论，并直接影响了立法：数月后签署的加州 SB 53 包括了针对 AI 员工的吹哨人保护条款。此案引发了全行业关于员工安全担忧与雇主部署速度之间差距的反思。2025 年 5 月，Anthropic 为其最强大的模型激活了 ASL-3（AI 安全等级 3）保护措施。这是 AI 实验室首次实施与特定能力阈值挂钩的分层安全框架 — 对 AI 安全这个抽象问题的具体回应。ASL-3 包括自动监控、人工监督升级以及针对接近危险能力水平的模型的遏制协议。两个事件 — 一个吹哨人之死和第一个可操作的安全框架 — 发生在同一年。这种矛盾捕捉了那个时刻的张力：行业既在辜负人，又在建设防止未来失败的系统。

到 2026 年，AI 安全已经不再是自愿行为。1 月，xAI 的 Grok 图像生成器被用于制作公众人物的露骨色情深度伪造，导致印度尼西亚、马来西亚和菲律宾封锁了对该服务的访问。Grok 的'辣味模式' — 一种旨在区别于'被审查的'竞争对手的刻意产品选择 — 巨大地反噬了，证明了安全捷径有真实的地缘政治后果。3 月，Anthropic 通过一个泄露的 npm 包意外暴露了 51.2 万行 Claude Code 源代码，揭示了秘密的智能体特性，引发了供应链安全辩论。该事件表明，即使拥有最先进安全框架的公司也可能犯基本的操作错误。6 月，佛罗里达州总检察长 James Uthmeier 提起了美国首次州级诉讼，就安全问题起诉 AI 公司，指控 OpenAI 将利润置于安全之上，并在明知风险的情况下将 ChatGPT 宣传为对儿童安全。仅仅 11 天后，美国商务部下令禁止 Anthropic 的 Fable 5 和 Mythos 5 出口，标志着美国政府首次以安全为由直接限制 AI 模型。过渡已经完成：AI 安全从工程团队转移到了法庭，从公司声明转移到了州级强制令，从自愿框架转移到了政府命令。