苹果曾私下威胁将 Grok 移出 App Store，因其生成色情深伪内容

苹果曾向参议员私下透露，因 xAI 旗下 Grok 应用的色情深伪（deepfake）问题，苹果曾一度威胁将其从 App Store 下架。这一信息来自 NBC News 获得的一封苹果致美国参议员的信函。

事件经过

根据 NBC News 的独家报道，苹果在收到用户投诉和媒体关注后，主动联系了 X 及 xAI 的 Grok 团队，指出 Grok 的图像生成功能违反了 App Store 审核指南，尤其是关于色情内容和深度伪造的规定。

xAI 随后提交了整改更新，但苹果认为这些措施力度不够，予以拒绝。经过进一步的沟通与整改，苹果最终批准了 Grok 的最新提交，应用得以继续留在 App Store。

色情深伪问题仍未根除

NBC News 同时指出，尽管 xAI 此前已经对 Grok 的图像工具施加了限制——包括限制对真实人物照片的编辑——但用户仍然可以通过特定方式绕过这些限制，生成色情化的深度伪造图片。

报道提到，自今年一月以来，这类内容的生成量有所下降，但并未完全消除。这反映出 AI 图像生成领域在内容安全方面的持续挑战：即便平台方设置了防护措施，用户仍能找到绕过的路径。

苹果的审核标准

苹果在信函中向参议员强调，App Store 的审核指南明确禁止包含色情内容的应用，同时也对深度伪造内容有严格限制。此次对 Grok 的施压表明，苹果正将 AI 生成内容的监管纳入其现有的应用审核框架之中。

对于苹果而言，这是一个微妙的平衡：既要维护 App Store 的内容标准，又要避免被指责对 AI 应用实施过度审查。在 AI 图像生成能力快速发展的背景下，这类争议可能只会越来越频繁。

更广泛的行业问题

Grok 并非唯一面临此类问题的 AI 应用。随着 AI 图像生成技术的普及，各大平台都在与色情深伪和虚假内容的生成作斗争。从 OpenAI 到 Google，每一家 AI 公司都在不断完善其内容过滤系统。

然而，苹果的 App Store 作为 iOS 应用的唯一分发渠道，拥有远超一般平台的内容管控能力——直接下架应用，是最强有力的约束手段。

来源：NBC News / 9To5Mac