随着人工智能技术的飞速发展，“深度伪造”技术逐渐沦为造谣的工具。从伪造社会热点事件到虚构自然灾害场景，从编造政策新规到炮制“伪科普”内容，AI生成的虚假信息足以以假乱真，严重扰乱社会秩序。它不仅动摇了公众信任的根基，更有可能引发社会动荡。新华网“第一真相”栏目对近期AI谣言典型案例进行梳理，揭示其背后的生成逻辑与危害，助力公众明辨是非真伪，共同守护真相！

  近期AI谣言四大典型乱象

  乱象一：炮制社会热点，煽动焦虑恐慌

  案例解析：7月初，一则“四川峨眉山人猴大战，猴王被当场击毙”的网络传言引发了广泛关注。该视频借助AI技术，将多地拍摄的猴群画面进行剪辑拼接，甚至编造了具体的人物信息，极具迷惑性。经有关部门核查，这实际上是利用AI视频合成技术炮制的虚假内容，其通过动物话题来博取关注。实际上，“峨眉山人猴大战猴王被毙”属于旧谣新传，类似的谣言在多年前就曾出现，景区已联合森林公安等部门进行辟谣。

  手法揭秘：这类谣言往往选择公众关心的社会热点话题，刻意强化冲突元素，借助AI换脸、场景合成等技术，实现画面无缝拼接，以“第一手资料”“现场实拍”为噱头，添加逼真音效和字幕，精心包装成“爆炸性”热点事件，以达到收割流量、谋取利益的目的。

  乱象二：伪造惠民政策，扰乱公共秩序

  案例解析：6月底，一则“7月1日起老年人坐火车可打折”的虚假信息在社交平台广泛传播。该谣言抓住老年群体对出行优惠的关注心理，通过AI技术伪造所谓的“铁路部门新政”，甚至附上仿冒官方文件的排版和措辞，迷惑公众。经核查，此类内容均出自自媒体账号，其目的并非服务老年旅客，而是通过制造政策噱头吸引点击，最终实现流量变现。

  手法揭秘：这类谣言往往针对老年人、学生等特定群体的核心需求，如出行优惠、教育政策等，量身定制虚假“利好”信息。不法分子使用AI生成仿真度极高的“红头文件”，强调这是“内部消息”且“即将实施”，以此制造紧迫感，甚至伪造数据支撑，生成所谓的“政策解读”内容，再搭配海报、配音，降低用户防备心理，上演“博眼球，拉流量，变现谋利”的戏码。

  乱象三：编造“文物危机”，挑起保护焦虑

  案例解析：6月中旬，一段题为“山西大同悬空寺部分建筑物坍塌”的短视频在网络平台流传，视频里，悬空寺中段木楼轰然倒塌，场面触目惊心，引发公众担忧。经核查，该视频是由外地网民周某东、李某英、陈某华三人利用AI影像篡改技术编造而成，其目的是为吸引流量、博人眼球。当地警方已对发布造谣视频传播量较大、造成严重不良影响的周某东、李某英进行行政处罚，对发布造谣视频传播量较小的陈某华予以批评教育。

  手法揭秘：此类视频利用AI深度伪造技术，对文物、名胜古迹的实景照片进行局部篡改，通过模拟建筑坍塌、结构损毁等画面，蓄意制造“文物遭破坏”的视觉假象。造谣者抓住公众对文化遗产的关切心理，以逼真但虚假的“灾难场景”推动传播，既迎合部分网民猎奇心态，又煽动社会对文物保护不力的焦虑情绪，最终达到博取流量、收割关注的目的。

  乱象四：虚构灾情事故，透支社会善意

  案例解析：7月中旬，云南大理漾濞网安部门破获一起利用AI工具制作多个交通事故现场人员伤亡视频的网络谣言案。经查，赵某某为博人眼球、吸粉引流，使用AI工具制作多个交通事故现场人员伤亡视频发布到网络平台，编造虚假警情，并在视频中标注“大理州”，引发当地居民恐慌。经核实，大理州辖区内未发生以上交通事故。目前，公安机关已依法对违法行为人赵某某给予行政处罚。此外，曾经在网络热传的“被压在废墟下的小男孩”“云南迪庆香格里拉一中、三中着火”等所谓“现场图像”，经核实，均为不法分子通过AI特效合成，刻意营造灾难现场的惨烈景象。

  手法揭秘：造谣者利用公众对灾情、突发事故的天然关切，通过AI快速生成具有强烈情感张力的“现场”图片或视频，他们甚至仿照官方通报格式，以“权威口吻”增强谣言迷惑性，吸粉引流，为后续募捐诈骗等违法行为作铺垫。

  AI谣言应对“锦囊”

  查证来源：遇“爆炸性新闻”时，优先查看政府、权威媒体或涉事主体的正式回应。

  细节分析：警惕“无署名、无时间、无地点”的“三无”视频，AI生成内容常缺乏细节逻辑，如季节不符、建筑风格混乱，同时，存在口型不同、光影异常、文字错误等破绽。

  用AI检测AI：使用“AI检测工具”辅助判断，对可疑图片、视频进行反向搜索或合成痕迹分析。

  理性传播：对煽动情绪、制造对立的内容保持警惕，不盲目转发。

  AI是新技术发展的产物，但其滥用可能带来危害，造成社会秩序的混乱。面对AI造谣，我们更需擦亮眼睛。新华网“第一真相”栏目呼吁，在享受技术红利的同时，必须保持高度警惕，强化平台监管，守住底线，共同构筑清朗网络空间。（吴炎）