欧盟拟禁AI“裸化”系统 涉及马斯克Grok风波
欧盟官员计划推出一项新禁令，禁止使用人工智能生成或篡改性内容、且未经本人同意的“裸化”系统。该禁令将适用于AI平台，而非仅追究用户责任，标志着欧盟在监管深度伪造技术方面迈出关键一步。
根据官方声明，该禁令不适用于具备有效安全机制、能防止用户生成此类图像的AI系统。此举被视为对马斯克旗下xAI公司Grok系统生成露骨图像事件的政策回应。尽管欧盟未在声明中直接提及Grok，但监管机构已对此类系统展开调查，并关注其对其他类似“裸化”工具的潜在影响。
欧洲议会议员早前提交问题至欧盟委员会，指出包括Grok在内的一系列AI驱动的裸化应用程序，正加剧基于性别的网络暴力和儿童性剥削材料（CSAM）的生成。议员们强调，由于“个人违法者往往难以追踪”，建议从源头预防此类图像暴力。
在美国，针对Grok的法律挑战也在持续。今年1月，马斯克子女之一的母亲Ashley St. Clair率先提起诉讼。近期，田纳西州三名少女已提出集体诉讼，代表所有受Grok生成CSAM影响的儿童。欧盟民权委员会成员Michael McNamara表示，禁用此类AI工具是公众期待的举措。
该提案若通过，将迫使AI平台强化内容安全机制，否则面临市场禁入风险，对全球AI监管趋势具有示范效应。
编辑点评
此次欧盟拟议的AI‘裸化’系统禁令，标志着全球人工智能治理从‘事后追责’转向‘事前预防’的重大范式转变。此前，各国多依赖刑法追究个体用户责任，但面对AI平台海量、匿名、自动化的内容生成能力，传统手段收效甚微。欧盟此次直接将监管矛头对准平台，反映出对AI技术滥用系统性风险的认知升级。
Grok事件成为催化剂，暴露了当前AI内容安全机制的漏洞。马斯克拒绝在Grok中实施严格内容过滤，引发多国法律挑战。若欧盟草案通过，将迫使所有AI平台在产品设计阶段即嵌入防‘裸化’机制，否则面临市场准入限制。这一举措可能引发全球监管连锁反应，尤其在欧美、日本等重视隐私与数字人权的地区。
从长期看，此举或推动AI安全成为技术出口与市场准入的核心标准。同时，平台将面临更复杂的合规成本，可能加速行业整合或技术重构。对Grok及xAI而言，若无法快速调整技术策略，欧盟市场将成其重大商业障碍。未来，AI伦理与治理可能进一步成为国际技术竞争的隐形赛道。