苹果曾威胁下架马斯克AI应用Grok 以应对非自愿色情深度伪造内容
据NBC新闻报道，2026年1月，苹果公司曾私下警告埃隆·马斯克旗下AI应用Grok，若无法有效遏制平台上泛滥的非自愿性深度伪造内容，将面临从App Store下架的风险。
Grok作为xAI开发的聊天机器人，此前在X平台及独立应用中均存在薄弱的内容审核机制，用户可轻易生成并传播针对真实人物（尤其是女性及未成年人）的性化深度伪造图像，严重违反App Store准则。
苹果在致美国参议员的信中表示已与X及Grok团队沟通，要求其制定内容审核改进方案，并指出Grok在初期未达到合规标准。经过后续调整，苹果最终认定Grok“实质性改善”后才批准其更新。
然而，调查发现，即便在苹果批准后，Grok仍可轻松生成包含名人、政治人物及普通用户的色情深度伪造图像，表明当前限制措施效果有限。
谷歌Play商店未对此事发表评论。
编辑点评
此事件凸显了AI生成内容在监管与平台责任之间的深层矛盾。尽管苹果作为技术生态的“守门人”具有强大影响力，其介入方式却采取了非公开、非透明的幕后施压，反映出科技巨头在面对AI滥用问题时的被动与矛盾——既依赖AI应用带来的流量与收入，又必须应对公众对安全与伦理的日益增长的关切。Grok在合规后仍可生成色情深度伪造内容，说明当前内容审核技术尚不足以应对AI生成内容的复杂性与变通性，尤其在规避机制（如绕过限制指令）日益成熟的背景下。长远来看，若缺乏统一的国际监管框架与技术标准，此类AI滥用问题可能持续扩散，对个人隐私、公共安全乃至社会信任构成系统性挑战。各国监管机构需加快立法进程，推动平台承担更明确的治理责任，同时鼓励技术公司开发更先进的检测与阻断机制，以应对AI时代的新型数字风险。