YouTube扩大AI深度伪造检测范围至政界人士、官员及记者
YouTube于2026年3月10日宣布，将AI深度伪造检测技术扩展至政府官员、政治候选人及记者等公共人物的试点群体。该技术可识别未经授权生成的AI仿冒视频，并允许用户申请删除违规内容。此工具此前已面向约400万YouTube合作伙伴计划创作者开放。
该技术原理与YouTube现有的Content ID系统类似，用于检测版权受保护内容，但针对的是通过AI工具模拟的虚拟人脸。此类仿冒视频常被用于传播虚假信息，利用公众人物形象制造误导性内容。
YouTube表示，此举旨在平衡用户言论自由与AI技术带来的风险。公司副总裁Leslie Miller在新闻发布会上指出：“这关乎公共对话的完整性。我们深知AI仿冒对公共领域人物的风险较高，但同时也会谨慎使用该工具。”
值得注意的是，检测到的内容并非全部会被删除。YouTube将依据现有隐私政策评估每项请求，确保讽刺或政治批评等受保护的表达形式不被误伤。公司同时支持美国国会的NO FAKES法案，该法案旨在规范AI生成的未经授权的个人声音和形象使用。
试点用户需上传自拍及政府身份证件完成身份验证，创建个人资料后可查看检测结果并选择申请删除。YouTube未来计划扩展功能，允许用户在视频发布前阻止违规内容上传，或像Content ID系统一样实现内容商业化。
公司未披露具体参与试点的政界人士名单，但强调将逐步扩大技术覆盖范围。AI生成内容将被标记，但标签位置不一：部分视频标签置于描述中，涉及敏感话题的视频则在视频开头显示标签，与YouTube现有AI内容标注方式一致。
YouTube副总裁Amjad Hanif解释称，AI生成内容的标注需根据内容性质判断是否需显着提示，例如AI生成的卡通可能无需明显声明。目前，该技术处理的AI仿冒视频移除量“非常小”，多数内容被判断为无害或对创作者业务无负面影响。但针对政府官员、政治人物或记者的仿冒内容可能带来更高风险，未来需加强监管。
YouTube亦计划将检测技术扩展至可识别的声音、知名角色形象等知识产权领域。
编辑点评
YouTube此次扩展AI深度伪造检测范围，标志着平台在应对AI滥用风险方面迈出关键一步。随着AI生成技术日益成熟，公众人物尤其是政治人物和记者成为仿冒目标的风险显着上升，可能引发舆论操纵、选举干扰甚至社会动荡。此次试点将提升公共人物对自身数字身份的控制权，同时通过区分“讽刺”与“恶意仿冒”的政策机制，试图在打击虚假信息与保护言论自由之间取得平衡。
从国际背景看，美国NO FAKES法案的推进与YouTube的平台举措形成政策与技术协同，反映出全球对AI生成内容监管的紧迫性。欧盟、中国等地区也在加快相关立法，未来可能出现跨国监管协调。技术层面，YouTube的检测系统若能扩展至语音识别和知识产权保护，将形成更全面的数字身份防护体系，对全球内容平台具有示范效应。
长远来看，此类技术可能重塑数字内容生态。若推广至更多公共人物，将增强公众对网络信息的信任度，但同时也可能引发“数字身份垄断”或“过度审查”争议。未来需要在技术透明度、用户权利与平台责任之间建立更精细的治理框架，以应对AI时代的信息治理挑战。