# 深度伪造
加拿大联邦政府提出《强大与自由选举法案》，拟全面禁止政治党派及第三方选举参与者接受加密货币、汇票及预付卡形式的捐款，以防范匿名及难以追踪的外国干预风险。该法案由众议院政府领袖史蒂文·麦金农提出，旨在确保选举公平、公正与安全。此前类似法案于2024年因未通过二读而失效。根据法案，违规者将面临最高两倍捐款金额的罚款，个人最高2.5万加元，企业最高10万加元。法案还拟扩展对伪造候选人形象的深度伪造技术的禁令。加拿大并非唯一关注此问题的国家，英国亦宣布将对加密货币政治捐款实施临时禁令。
欧洲议会以多数票通过决议，支持推迟《欧盟人工智能法案》中部分关键条款的实施时间，并支持在修订版法案中加入禁止“裸化”应用程序的条款。高风险人工智能系统供应商的合规截止日期将推迟至2027年12月，医疗设备和玩具等特定行业相关AI系统的合规期限延长至2028年8月，AI生成内容水印要求则推迟至2026年11月。原定于2026年8月生效的多项规定因此延期。同时，欧盟议员支持禁止利用AI生成裸露图像的“裸化”应用，但该禁令不适用于具备有效安全机制防止此类图像生成的系统。该决议源于今年早些时候X平台（原Twitter）上出现大量由Grok生成的性化深度伪造内容引发的公众愤怒。目前，欧洲议会需与欧...
OpenAI宣布关闭其AI短视频应用Sora，该应用去年秋季上线后迅速走红，但因引发深度伪造（deepfake）和非自愿图像传播等伦理争议而备受批评。OpenAI在社交媒体上表示将“告别Sora应用”，并承诺后续会公布用户内容保存方案。Sora曾试图通过生成式AI内容吸引类似TikTok、YouTube等平台的流量与广告收入，但因公众人物形象滥用问题（如迈克尔·杰克逊、马丁·路德·金等）引发家属及工会抗议，迫使公司限制相关功能。迪士尼在声明中表示尊重OpenAI的决定，并称将继续与AI平台合作，以负责任方式拥抱新技术。此举标志着OpenAI在生成式AI社交领域的战略收缩。
英国政府计划考虑强制标注AI生成内容，以防范虚假信息和深度伪造技术对公众的误导。科技大臣利兹·肯德尔表示，政府将在保护创意产业与促进AI创新之间寻求平衡，并强调将花时间“把这件事做对”。此次政策讨论还将涵盖未经授权的数字复制品危害、创作者对作品在线使用的控制权，以及对独立创意组织的支持。尽管2024年曾提出放宽版权规则允许AI在合法获取的材料上训练，但政府目前表示尚未形成明确立场，相关议题仍在广泛咨询中。版权专家指出，政府尚未排除AI训练可使用受版权保护内容的广泛例外，认为关键问题被推迟处理。
三名田纳西州青少年于2026年3月17日对埃隆·马斯克旗下的xAI公司提起集体诉讼，指控其AI聊天机器人Grok在去年推出的“辛辣模式”中生成包含未成年人的AI合成儿童性虐待材料（CSAM）。原告包括两名未成年人和一名成年但事发时未成年者，其中一名受害者“Jane Doe 1”称其面部及身体被AI生成为性暗示图像，并在Discord和Telegram群组中被用于交换其他未成年人的非法内容。诉状指称xAI未对功能进行安全测试，Grok存在设计缺陷。此前Grok曾大量生成成人及未成年人的不当图像，引发美国联邦贸易委员会、欧盟及英国首相基尔·斯塔默的关切。美国参议院已通过非自愿深度伪造受害者可...
全球多地青年通过Telegram应聘“AI脸模”岗位，参与东南亚诈骗团伙的深度伪造视频诈骗。这些应聘者多为20岁左右女性，声称掌握多国语言，应聘者需每日完成约100次视频通话，工作时间长达12小时，部分岗位要求提供护照以管理签证。诈骗团伙利用AI换脸技术，伪装成真实人物进行“杀猪盘”诈骗，尤其针对美国等西方国家民众。据调查，此类岗位在柬埔寨等诈骗重灾区大量存在，部分应聘者或为自愿参与，但部分人可能面临人身控制与性骚扰。Telegram虽称禁止诈骗内容，但未删除相关招聘频道。该现象凸显AI技术被滥用的全球性风险。
据内部消息，OpenAI正计划将其视频生成工具Sora整合进ChatGPT，此举旨在强化ChatGPT的多模态能力。Sora的独立应用仍将继续提供，但公司重心转向ChatGPT。OpenAI预计未来至2030年将在模型运行上花费2250亿美元，若ChatGPT保持市场主导地位，有望收回成本。此前，Sora因生成争议性深度伪造内容及侵犯好莱坞知识产权而受到批评。迪士尼曾向OpenAI投资10亿美元，授权其使用旗下角色。OpenAI还因使用“cameo”一词被社交平台Cameo起诉，法院已裁定其停止使用该术语。近期，公司调整战略，放弃购物整合，转向原生广告以提升用户基础和盈利。上周，Open...
欧盟成员国于周五支持禁止AI系统生成性剥削深度伪造内容，此举源于埃隆·马斯克旗下AI聊天机器人Grok生成相关图像引发的全球舆论谴责。欧盟大使同意禁止‘未经授权生成性与亲密内容或儿童性虐待材料’的行为，该禁令作为修订欧盟AI法规提案的一部分。欧洲议会和成员国将在周三的委员会投票中审议该禁令。欧盟委员会已于1月启动对Grok的调查。此外，欧盟还确定了高风险AI规则的延迟实施时间表：独立高风险AI系统于2027年12月生效，嵌入产品中的高风险AI系统于2028年8月生效。原定生效时间为2026年8月和2027年8月，除非延迟方案通过。
据The Information报道，OpenAI的视频生成模型Sora或将集成至ChatGPT，使其用户可直接在聊天界面中使用该功能。目前Sora仅可通过其官网或独立应用访问，使用率低于ChatGPT。此举或提升ChatGPT吸引力，但可能加剧深度伪造内容的泛滥。Sora上线后曾出现针对历史人物的不实视频及侵权内容。集成后，用户绕过AI生成水印等防护机制的可能性增加。同时，OpenAI面临Anthropic等竞争对手压力，后者因拒绝美国军方用于大规模监控和自主武器的请求而赢得公众支持，导致ChatGPT用户流失。OpenAI此举或为挽回用户，但可能增加运营成本，引发ChatGPT定价调整。
2026年3月11日，伊朗关联黑客组织Handala入侵以色列希伯来语学院官网，用户访问时显示英文威胁信息：‘无需再学习希伯来语，它将不再需要’。该事件为近期针对以色列的系列网络攻击之一，攻击峰值达每秒120万次请求，主要针对金融系统。Handala此前已入侵多名以色列政要手机，包括前总理贝内特、总理内塔尼亚胡及前司法部长沙凯德，并发布包含深度伪造视频的宣传内容。
根据研究机构MoffettNathanson的最新数据，YouTube在2025年广告收入达到404亿美元，超越迪士尼、NBC、派拉蒙及华纳兄弟探索（WBD）四大好莱坞工作室的广告收入总和（378亿美元）。这一数据标志着流媒体与传统娱乐产业格局的重大转变。2024年，YouTube广告收入为361亿美元，低于四大工作室的418亿美元，但2025年实现逆转。YouTube母公司Alphabet披露，其全年总收入达600亿美元，其中订阅服务（包括YouTube TV、Premium、Music及NFL Sunday Ticket）贡献显着。尽管Meta在2025年广告收入达1962亿美元，但...
在美以联合打击伊朗后，网络上充斥大量据称记录战况的图像与视频，其中部分为旧图、AI生成或游戏画面。专业机构如《纽约时报》、Indicator、Bellingcat等通过严格验证流程避免发布虚假内容。专家建议公众从图像细节、来源可信度、数字足迹及时间地点等四方面进行核查。尽管深度伪造技术日益先进，但通过交叉比对、元数据提取和上下文分析，仍可辨别真伪。权威媒体强调，真实性在于来源的诚实性，而非像素的完美。专家呼吁公众提高警惕，避免在未核实情况下转发情绪化或病毒式传播内容。
微软发布AI内容真实性验证技术框架，应对深度伪造等新挑战。英国伦敦北部恩菲尔德区今年确认34例麻疹病例，美国南卡罗来纳州同期确诊962例，专家警告疫苗犹豫可能导致其他传染病扩散。
欧盟委员会依据《数字服务法案》启动针对埃隆·马斯克旗下Grok AI的调查，重点关注其生成具有性暗示特征的深度伪造内容的合规性。该调查可能影响全球人工智能监管框架，同时揭示科技巨头在跨国运营中的法律风险。
埃隆·马斯克旗下xAI公司被曝处心积虑弱化聊天机器人安全管控。据《连线》杂志披露，该公司至少11名工程师及两位联合创始人近期离职。离职人员称Grok模型已生成超100万张敏感图像，包括未成年人和真实女性的深度伪造内容。马斯克被指'刻意尝试让模型更疯狂'，引发全球监管层对AI伦理风险的担忧。
xAI公司自成立至今已有6名联合创始人离职，马斯克在全员会议上解释称组织结构调整导致人员优化，强调公司规模扩大后的管理必然性。目前至少11名工程师公开宣布离职，部分人员计划联合创业。公司正面临深度伪造内容监管调查及年内IPO筹备压力。
人工智能技术正在降低网络犯罪门槛，深度伪造技术导致诈骗案件激增。同时，中国AI企业推出低成本开源模型，可能重塑全球技术标准。本文解析AI安全挑战及技术发展趋势。
纽约大学研究团队发现，AI技术被用于自动生成网络攻击代码和定制化勒索信。尽管该研究成果被证实为实验性质，但专家警告AI驱动的诈骗活动呈现数量激增且更具破坏性趋势。
印度2月20日起实施新规，要求社交平台在3小时内移除非法AI生成内容并强制标注合成信息。该国拥有5.005亿社交媒体用户，新规可能影响全球内容审核标准。当前技术手段如C2PA系统存在元数据易丢失等问题，实施难度较大。