X平台充斥伊朗战争虚假AI内容，专家警告事实世界濒临崩溃

自2月28日美国与以色列对伊朗发起军事行动以来，社交媒体平台X上虚假信息泛滥，尤其以AI生成的图像和视频为主。伊朗官方及亲政权账号利用AI技术传播误导性内容，包括伪造的导弹袭击画面、美军被俘影像及反犹太主义叙事。

AI聊天机器人Grok在验证相关帖子时屡次出错，甚至生成虚假图像。当信息专家Tal Hagin要求Grok核实一条声称伊朗导弹袭击特拉维夫的帖子时，Grok错误识别地点与时间，并附上AI生成的破坏画面。Hagin称其为“AI垃圾”（AI slop）。

3月2日，伊朗官员及国有媒体发布AI生成的巴林高层建筑起火视频。另一张AI图像显示美军B-2轰炸机被击落、美军士兵被俘，浏览量超百万次后被删除；而“三角洲部队被俘”的AI图像浏览量超500万次。

部分AI内容虽不逼真，如伊朗在洞穴内制造导弹的视频，但仍被多次转发，浏览量超百万。伊朗政府还利用AI传播反犹太主义叙事，如描绘正统犹太人引导美军作战或庆祝美军死亡的图像。

此外，一个亲政权账号网络发布伪造视频，显示年轻女孩在特朗普面前仅穿内衣行走，该内容浏览量达680万次后被删除，但仍被其他账号传播。

X平台于近日宣布，将临时对发布无标签AI战争视频的蓝V账号去货币化。此前，多名伊朗官员支付费用获取蓝V认证，以提升曝光度并获得盈利可能。X未回应已去货币化账号数量。

非AI虚假信息亦持续传播。例如，针对2月28日伊朗米纳布小学袭击事件，部分亲特朗普账号挪用其他战场影像，声称伊朗发射导弹击中学校。但《纽约时报》核实，伊朗新闻机构发布的视频显示，美军“战斧”巡航导弹击中学校旁海军基地，而“战斧”导弹仅由美军使用。

Meta的监督委员会于周二批评其AI内容标注机制“既不全面也不够强大”，难以应对危机期间的AI虚假信息。Meta则表示欢迎该评估。

媒体监督机构NewsGuard分析师Isis Blachez指出：“AI生成的图像与视频日益逼真，用户可能不会质疑被标为‘证据’的视觉内容。目前的AI检测工具也难以稳定识别虚假内容。”

信息专家Hagin警告：“AI生成内容的激增正推动我们远离事实世界，若不立即立法监管，损害将愈发严重。”