欧盟拟禁止生成“深度伪造色情”AI服务 修订《人工智能法案》
欧盟拟禁止在未经本人同意的情况下，利用人工智能生成将真实人物面部与色情图像或视频合成的“深度伪造色情”内容。该措施是对其《人工智能法案》的修订内容，由欧洲议会与欧盟理事会于7日达成临时协议。
相关禁止范围包括生成性内容的AI服务，但医疗或调查用途的生成行为将被豁免。儿童性虐待相关内容无论是否获得同意均被全面禁止。欧盟相关人士表示，该规定旨在应对女性及儿童受害案例日益增多的问题。
企业需在2026年12月2日前完成合规调整。此次修订强化了对生成式AI的监管框架，将对全球AI内容治理产生示范效应。
背景与影响
“深度伪造色情”内容近年来在社交媒体和网络平台上广泛传播，造成大量个人隐私侵犯与心理创伤。欧盟此举被视为对AI滥用行为的系统性回应。该法案修订案若最终通过，将成为全球首个明确禁止此类AI生成内容的区域性立法，可能影响其他国家的监管方向。
编辑点评
此次欧盟修订《人工智能法案》并明确禁止“深度伪造色情”AI服务，具有重要的全球治理示范意义。在全球AI技术迅猛发展的背景下，此类内容的滥用已引发严重社会问题，尤其对女性和儿童构成系统性威胁。欧盟的立法举措体现了其在数字治理领域的领先地位，通过设定明确的法律红线，推动AI技术从“技术中立”向“责任导向”转型。
该政策不仅具有道德和人权层面的正当性，也对全球科技企业提出新的合规要求。未来，跨国AI平台可能面临不同司法管辖区的监管压力，需建立全球统一的内容审核与用户授权机制。同时，该法案可能促使美国、中国等国加快相关立法进程，形成全球AI监管的“最低标准”共识。
从地缘政治角度看，欧盟此举亦是在数字主权领域的一次主动布局。通过制定规则、设定技术标准，欧盟试图在全球AI治理中掌握话语权。这可能加剧与以美国、中国为代表的科技大国在AI伦理与监管路径上的分歧，进一步推动国际数字规则的“多极化”格局。
值得注意的是，尽管医疗或调查用途被豁免，但如何界定“正当用途”将面临执法挑战。未来可能需要建立独立的审核机制或伦理委员会，以平衡技术创新与社会安全之间的关系。