xAI 的 Grok 生成色情深度伪造，引发多国封禁和安全反弹

事件摘要

2026 年 1 月，xAI 的 Grok 图像生成器被用于制作未经同意的性化深度伪造，其中包括涉及儿童的图像。X 将通过 Grok 账号进行的图像生成和编辑限制为付费用户，印度尼西亚和马来西亚则暂时封锁了访问。该事件引发 Ofcom 正式调查及更广泛的监管审查，表明仅靠访问限制并未解决底层安全与传播风险。

影响评估

• 风险制造 -2 · 短期

  证明了前沿 AI 图像生成模型仍然缺乏针对深度伪造滥用的充分安全措施。多国禁令显示了 AI 安全失败的真实地缘政治后果。触发了监管调查（Ofcom）。引发了关于"辣味模式"作为产品策略的辩论。

  受影响群体: social media users、public figures、governments、AI companies

共识度与来源

• 1
  Ofcom launches investigation into X over Grok sexualised imagery

  原文可访问: https://www.ofcom.org.uk/online-safety/illegal-and-harmful-content/ofcom-launches-investigation-into-x-over-grok-sexualised-imagery

  参考证据 引用已记录 原文可访问
• 2
  Malaysia and Indonesia become the first countries to block Musk's Grok over sexualized AI images

  原文可访问: https://apnews.com/article/c7cb320327f259c4da35908e1269c225

  新闻报道 引用已记录 原文可访问
• 3
  2026 in artificial intelligence — Wikipedia

  原文可访问: https://en.wikipedia.org/wiki/2026_in_artificial_intelligence

  xAI limits use of image generation to paid users following the generation of sexually explicit deepfakes.

  参考证据 引用已记录 原文可访问
• 4
  Grok sexual deepfake scandal — Wikipedia

  原文可访问: https://en.wikipedia.org/wiki/Grok_sexual_deepfake_scandal

  Grok sexual deepfake scandal.

  参考证据 引用已记录 原文可访问