尽管新规出台，中东战争AI假新闻仍席卷X平台，引发舆论风暴
埃隆·马斯克旗下的X平台惊现大量AI生成视频，画面中美国大兵被伊朗俘虏、以色列城市沦为废墟、美国大使馆火光冲天。尽管平台方已出台政策试图遏制战时虚假信息，但这波以假乱真的深度伪造内容仍在疯狂传播。
研究人员指出，中东战火已引爆海量AI生成影像，其规模远超以往任何冲突，社交媒体用户往往难辨真伪。
为保护冲突期间的“真实信息”，X平台上周宣布：若创作者发布未标注AI生成的战争相关视频，将暂停其90天收益分成资格。产品主管尼基塔·比尔警告称，再犯将面临永久封禁。
这项新政策标志着该平台的重大转向——自2022年10月马斯克以440亿美元收购以来，X屡因成为虚假信息温床而遭诟病。
美国国务院高级官员莎拉·罗杰斯对此表示赞赏，称其与X的“社区笔记”（众包核查系统）形成“完美互补”，能有效“降低不实内容的传播量（及变现能力）”。
但虚假信息研究者仍持怀疑态度。
“我监测的信息流仍充斥着战争相关的AI生成内容，”战略对话研究所的乔·博德纳告诉法新社，“创作者似乎并未因政策而减少发布误导性AI影像。”
博德纳举例称，某顶级“蓝V认证”账号（具备变现资格）曾发布AI生成的伊朗对以色列“核打击”视频，其浏览量甚至超过了比尔关于打击AI内容的公告。
造假背后的暴利驱动
面对法新社关于“已处罚多少账号”的询问，X平台未予回应。
法新社全球事实核查网络发现，大量中东战争AI伪造内容来自X付费购买的“蓝V认证”高级账号，包括：美国士兵在炸毁的大使馆内哭泣、美军跪在伊朗国旗旁、美国海军舰队被摧毁等视频。
AI伪造影像与真实中东战况混杂传播，其增长速度已远超专业核查人员的辟谣能力。
更讽刺的是，X自家AI聊天机器人Grok竟将多段战争AI视频误判为真实内容，加剧了信息混乱。
研究人员警告，X的盈利模式——允许高级账号通过内容互动获利——正变相激励用户散布虚假或煽动性内容。例如某高级账号发布迪拜哈利法塔“陷入火海”的AI视频后，无视比尔要求其标注AI属性的呼吁，该帖至今已获超200万浏览量。
“治标难治本”的应对
上月“科技透明项目”报告披露，X疑似从数十个伊朗政府官员及官媒的高级账号中获利，可能违反美国制裁令。报告称X随后取消了部分账号的蓝V认证。
研究者指出，即便严格实施收益制裁政策，大量散布AI内容的X用户本就未参与收益分成计划。这些账号仅受“社区笔记”系统约束，而该系统的有效性屡遭质疑——美洲数字民主研究所去年发现，超90%的社区笔记从未公开显示。
康奈尔科技大学安全信任倡议主任亚历克西奥斯·曼扎里斯评价：“X政策是对战时虚假信息传播的合理反制，理论上能降低造谣动机。但魔鬼藏在执行细节中：AI内容的元数据可被抹除，社区笔记覆盖率有限，平台很难保证政策同时具备高精准度与高覆盖率。”
本文由极观网原创发布，未经许可，不得转载！
本文链接：http://huioj.com/all/13112.html
