# 深伪技术
据认证公司Copyleaks披露，诈骗者正在TikTok平台上利用AI生成的泰勒·斯威夫特、蕾哈娜等名人视频推广虚假服务。这些视频通常模拟名人参与访谈、红毯或播客场景，部分篡改真实影像，诱导用户注册所谓“TikTok Pay”等第三方奖励计划，以观看内容和提供反馈为由骗取个人信息。TikTok官方标识常被用于提升可信度，但最终跳转至非官方平台。此类深伪技术滥用已成社交媒体普遍难题，Meta旗下Instagram和Facebook日均面临数十亿条诈骗广告，YouTube亦加强相关打击投入。斯威夫特近期已申请其声音片段的商标保护，以应对AI仿冒风险。
全球范围内，青少年利用深度伪造技术制作并传播同学的色情图像，已影响超过600名学生，波及90所学校，涉及至少28个国家。自2023年以来，北美、欧洲、南美、澳大利亚及东亚地区均有案例报告。这些行为被认定为儿童性虐待材料（CSAM），技术门槛降低使得更多青少年能轻易制作此类内容。受害者常遭受心理创伤，部分学校已采取措施限制学生照片公开使用。专家指出，此类事件不仅反映技术滥用，更暴露长期存在的性别不平等问题，学校和执法机构应对能力不足，亟需加强预防与响应机制。
美国俄亥俄州一名37岁男子詹姆斯·斯特拉勒因利用AI生成并传播儿童性虐待图像等网络犯罪行为被定罪，此为联邦2025年《下架法案》生效后的首例案件。据司法部披露，斯特拉勒使用超过100个AI模型在手机上制作700多张非法图像，并上传至专门网站。执法机构在一名成年受害者举报后将其抓获，其手机数据揭示更多受害者。专家指出，AI技术门槛降低、平台众多且不断更替，使执法难度剧增。Bellingcat研究员科琳娜·科尔泰表示，如今只需极低成本即可生成逼真图像，而执法者难以追踪所用平台。律师马修·法兰达-迪德里希强调，此类案件多涉及未成年人，女性受害者占90%，学校需积极介入，将AI生成非自愿色情内容...
2026年2月28日，美国与以色列对伊朗发动突袭，造成大量平民伤亡。伊朗政府在战时恢复部分互联网连接，但维持大规模网络封锁。其国家媒体及民间团体（如Explosive Media）利用AI生成内容，包括乐高动画、深伪视频等，开展“AI垃圾内容”传播战，与美国白宫发布的《使命召唤》等网络迷因形成对峙。伊朗外交机构广泛转发此类内容，引发国际关注。尽管真实性受质疑，但其传播策略在社交媒体上取得显着效果，尤其在西方社会引发共鸣，部分民众对伊朗产生同情。专家指出，伊朗的舆论战成功利用了全球对美国霸权的反感，同时其长期构建的网络审查体系为信息控制提供支撑。然而，该策略也加剧了信息混乱，真实影像被误判...
德国近期发生一起深伪（deepfake）色情内容案件，一名女性在未授权情况下被合成至色情影片中，引发公众强烈抗议。该事件促使德国社会对现有法律框架提出质疑，要求对数字人格权和网络犯罪进行更严格立法。德国联邦议院多个政党已呼吁尽快修订《刑法典》相关条款，以应对日益增长的深伪技术滥用问题。专家指出，当前法律对非自愿合成内容的惩处力度不足，亟需明确界定责任与惩罚机制。此案也再次引发欧洲范围内对人工智能伦理与数字安全的讨论。
OpenAI宣布将在六个月后关闭其视频生成平台Sora，CEO山姆·阿尔特曼向员工表示公司将终止所有基于视频模型的产品。Sora于2025年9月推出，曾获百万下载，但因深伪内容引发争议。迪士尼此前签署三年授权协议并计划投资10亿美元，但该合作已不再推进。OpenAI将资源转向机器人及企业级生产力工具。Sora的关闭反映AI技术商业化与伦理挑战并存，对行业格局产生影响。
欧盟官员计划禁止使用人工智能生成或篡改性内容、且未经本人同意的“裸化”系统，此举将首次直接针对AI平台而非仅追究用户责任。该政策调整被视为对马斯克旗下xAI公司Grok系统生成露骨图像事件的回应。尽管欧盟未直接提及Grok，但监管机构已就此展开调查，并强调此类技术助长性别暴力及儿童性剥削材料（CSAM）的传播。欧洲议会此前已呼吁全面禁止此类AI工具进入欧盟市场，理由是个人违法者难以追踪。目前，美国也有多起针对Grok的法律诉讼，包括儿童受害者提起的集体诉讼。该提案若通过，将显着影响AI平台的合规责任。
近日，社交媒体广泛流传以色列总理内塔尼亚胡在伊朗导弹袭击中丧生的谣言。该谣言源自一张新闻发布会截图，网民称其右手上出现“第六根手指”，怀疑为AI生成的深伪图像。随后，内塔尼亚胡在官方账号发布两段视频，显示其在耶路撒冷咖啡馆现身，并展示双手五指，以证其安全。然而，部分网民仍质疑视频真实性，指出咖啡杯、婚戒等细节存在异常，认为亦为AI生成。事件引发全球对AI伪造内容传播风险的广泛关注。