主要观点总结
文章讨论了AI生成的虚假信息借助互联网广泛传播的问题。特别是在地震等灾害发生时，AI生成的图片和视频被用来误导公众，造成事实混淆，扰乱社会秩序。文章呼吁不传播未经证实的消息，强调编造和故意传播虚假信息的行为可能违法，并需要升级治理手段来应对AI造谣。
关键观点总结
关键观点1: AI生成的虚假信息广泛传播
文章指出，AI技术进步使得生成逼真图片和视频变得容易，导致“AI造谣”成为一种新的虚假信息传播形式。特别是在地震等灾害发生时，AI生成的图片被用来误导公众，造成事实混淆。
关键观点2: AI造谣影响公众情感和社会信任
文章强调，AI造谣不仅给抢险救灾添乱，还可能导致社会恐慌，提升社会信任成本。消费公众情感的同时，也给当地辟谣工作增加成本。
关键观点3: 编造和故意传播虚假信息可能违法
文章指出，编造和故意传播虚假信息的行为，不论是否借助AI，都可能涉嫌违法。若严重扰乱社会秩序，将面临刑事追责。
关键观点4: 治理手段需升级应对AI造谣
鉴于AI造谣的特点，文章建议升级治理虚假信息的手段。包括AI软件方强制标注生成标识，平台方加强信息筛查，常态化升级平台甄别技术，强化事后惩戒等。
正文
AI造谣借助互联网广泛传播，在消费公众情感的同时，也让社会信任成本陡然提升。
▲在某短视频平台上，有多个账号发布AI生成图片，并和西藏日喀则地震关联。图/新京报我们视频截图被压在地震废墟下的小男孩，居然是AI生成的图片。1月7日，西藏日喀则市定日县发生6.8级地震，灾情牵动人心，许多网友在社交平台上为灾民祈福。但与此同时，一些疑似虚假信息，比如AI生成的图片，正在造成广泛误导。
就像这个戴帽子的小孩被重压在倒塌的建筑物下的图片，在某短视频平台，至少有10个以上账号发布，并和日喀则地震关联。其中一些甚至获得好几万的转评赞，很多网友在追问小孩怎么样了。
而据新京报记者查证，上述图片系由AI工具创作，原始作者在2024年11月18日发布了相同画面的短视频，并声明是AI生成。
由此可知，这张图片并非为蹭灾情热度而创作，但多个账号却将其与日喀则地震进行关联，甚至都没有标记AI生成。这种做法，则是趁着公众关心灾情博关注，有故意误导之嫌。
报道中，除了这张图，还有一些地震相关图片，有的被作者标注了系AI创作，有的被平台标记为疑似AI创作，有的则没有任何提示，极可能造成事实混淆。
地震发生后，人们关注灾情和救援，最需要的是真实信息。无论使用AI生成相关灾情的图片视频，还是故意传播包括AI生成之类的虚假信息，不仅是给抢险救灾添乱，更有扰乱社会秩序之嫌。
事实上，每当有灾情出现，就总有人为了蹭流量，不惜编造各种谣言。当地在全力救灾之时，还要拿出大量时间和精力核实相关信息，辟谣成本可想而知。同样，公众对造谣、传谣行为也深恶痛绝，尤其是涉及灾情的时候，广泛传播的不实信息，甚至有引发社会恐慌的风险。
如今，随着AI技术的进步，利用AI生成逼近真实的图片乃至音视频变得轻而易举，以至于“AI造谣”成了一种新的虚假信息传播形式，治理起来难度也更大。AI造谣借助互联网广泛传播，在消费公众情感的同时，也让社会信任成本陡然提升。
可能有人觉得，只要不是自己编造、生成的，转发传播一下关系不大。其实不然，在网络时代，我们每个人都是信息的传播者，而不传播未经证实的消息，当是基本的媒介素养。具体到一条造谣传播链上，始作俑者、放任传播的平台以及转发的用户，没有一个是无辜的。
要知道，捏造、故意传播虚假信息的行为，不论是否借助于AI，都可能涉嫌违法。若编造虚假的险情、疫情、灾情、警情，在信息网络或其他媒体上传播，严重扰乱社会秩序的，更将面临严厉的刑事追责。
鉴于AI造谣具有门槛低、批量化、识别难等特点，治理虚假信息的手段也需要进一步升级。对AI软件方来说，能否将AI生成标识强制标注，从源头减弱虚假信息的传播效果；对平台方而言，应落实把关责任，针对灾害事故、社会热点事件，加强信息筛查，常态化升级平台甄别技术，强化事后惩戒，不给造谣者侥幸脱责的机会。
总之，地震灾情紧急，抗震救灾才是主旋律，别让AI造谣来凑热闹。评论选题须是机构媒体当天报道的新闻。来稿将择优发表，有稿酬。投稿请在邮件主题栏写明文章标题，并在文末按照我们的发稿规范，附上作者署名、身份职业、身份证号码、电话号码以及银行账户（包括户名、开户行支行名称）等信息，如用笔名，则需要备注真实姓名，以便发表后支付稿酬。
