Meta深伪内容审核机制被指不足，监督委员会呼吁全面改革
Meta监督委员会近日发布报告，批评该公司当前用于识别和标注AI生成内容的机制“不够稳健或全面”，无法有效应对武装冲突期间虚假信息的快速传播。该委员会特别指出，去年在Meta平台传播的一段虚假AI视频——声称显示以色列建筑物受损——暴露了现有审核体系的重大漏洞。
委员会强调，当前系统过度依赖内容创作者自我披露AI使用情况，且依赖人工升级审查，无法适应当前在线环境的现实需求。报告指出，该虚假内容最初在TikTok传播，随后迅速扩散至Facebook、Instagram和X平台，凸显了跨平台传播的挑战。
委员会建议Meta采取多项措施，包括：完善虚假信息政策以应对欺骗性深伪内容；建立独立的AI生成内容社区标准；开发更先进的AI检测工具；公开违反AI政策的处罚机制；并扩大“高风险AI”标签在合成图像和视频中的应用频率。同时，委员会敦促Meta提升C2PA（内容凭证）标准的采用率，确保AI生成内容的信息对用户“清晰可见且易于获取”。
报告还指出，Meta自身AI工具生成的内容中，仅有“一部分”被正确标注，存在“不一致实施”C2PA标准的问题。尽管Meta无法律义务采纳这些建议，但其与Instagram负责人亚当·莫斯里去年关于加强真实影像识别的呼吁相呼应。当前中东地区军事紧张局势升级，使准确信息的获取对公众安全至关重要，进一步凸显了改革的紧迫性。
编辑点评
此事件凸显了AI生成内容在国际冲突背景下的潜在风险。随着中东地区军事紧张局势升级，虚假信息可能被用作心理战或煽动舆论的工具，Meta平台作为全球主要社交媒介，其内容审核机制的漏洞可能加剧地缘政治不稳定。监督委员会的建议并非技术性细节调整，而是要求平台重构内容治理框架，尤其在高风险政治环境下，内容真实性直接关联公共安全与全球舆论导向。
从技术角度看，C2PA标准的推广是关键突破点，它能为数字内容提供可验证的来源和生成路径，是构建可信网络生态的基础。然而，Meta对自身AI内容标签的不一致实施，反映了企业利益与公共责任之间的张力。若平台持续拖延改革，可能面临更严格的政府监管和公众信任危机。
从全球治理视角，此事件也反映了AI伦理监管的跨国协调需求。美国主导的科技公司治理模式正面临国际社会对其责任边界审查的加强，尤其在冲突频发区域，信息透明度成为新型战略资源。未来，可能有更多国家推动立法要求科技平台对AI内容进行强制性标注与溯源，从而重塑全球数字平台的合规框架。