# AI伪造
据认证公司Copyleaks披露，诈骗者正在TikTok平台上利用AI生成的泰勒·斯威夫特、蕾哈娜等名人视频推广虚假服务。这些视频通常模拟名人参与访谈、红毯或播客场景，部分篡改真实影像，诱导用户注册所谓“TikTok Pay”等第三方奖励计划，以观看内容和提供反馈为由骗取个人信息。TikTok官方标识常被用于提升可信度，但最终跳转至非官方平台。此类深伪技术滥用已成社交媒体普遍难题，Meta旗下Instagram和Facebook日均面临数十亿条诈骗广告，YouTube亦加强相关打击投入。斯威夫特近期已申请其声音片段的商标保护，以应对AI仿冒风险。
Zoom宣布与Sam Altman创立的虹膜识别身份验证公司World（前称Worldcoin）合作，在会议中引入实时人类身份验证功能。该功能通过三步验证流程——用户原始Orb注册的签名图像、设备实时面部扫描及会议中可见的视频帧——确认参会者为真实人类，防止AI生成的虚拟身份冒充。目前该功能已进入企业用户测试阶段，主持人可强制要求参会者通过验证方可加入会议，也可在会议中随时进行身份核查。此技术旨在应对日益增长的AI深度伪造威胁，提升在线会议安全性。
民谣音乐人Murphy Campbell于今年1月发现其Spotify账户中出现多首未上传的歌曲，经检测确认为AI生成的伪造作品。她随后遭遇YouTube平台通过内容分发商Vydia发起的版权索赔，所涉曲目均为公共领域作品，如《In the Pines》。尽管Vydia已撤销索赔并封禁相关上传者，但Campbell指出AI伪造、版权系统漏洞及音乐分发平台管理问题交织，构成系统性风险。Spotify正测试人工审核机制，但Campbell对其有效性持保留态度。事件凸显生成式AI在音乐领域滥用与版权机制误用的双重挑战。
近日，社交媒体广泛流传以色列总理内塔尼亚胡在伊朗导弹袭击中丧生的谣言。该谣言源自一张新闻发布会截图，网民称其右手上出现“第六根手指”，怀疑为AI生成的深伪图像。随后，内塔尼亚胡在官方账号发布两段视频，显示其在耶路撒冷咖啡馆现身，并展示双手五指，以证其安全。然而，部分网民仍质疑视频真实性，指出咖啡杯、婚戒等细节存在异常，认为亦为AI生成。事件引发全球对AI伪造内容传播风险的广泛关注。