“小男孩被埋图”涉案人员被拘！AI造假不能止于“幸好” | 津报早评

天津日报 · 公众号 · · 2025-01-12 07:00

正文

文 | 木棉

图片来源：我们视频截图

1月7日9时5分，西藏定日县发生6.8级地震，灾情牵动人心！此时，一系列“小男孩被埋图”在互联网平台广泛传播，并配文日喀则地震等关键词，引发大量网民关注，甚至获得好几万的转评赞。

图像中，一名戴帽子的小男孩被压在倒塌的废墟之下，全身布满尘埃。不少网友被图片视频误导，纷纷在留言区关注男孩的生命安全。不过很快，事情“反转”了——这段视频实际上是由AI生成的。为此，新华社等多家媒体发文称，“幸好，这张照片是假的”。

据央视新闻报道，该AI视频的创作者何先生表示，这段视频是他在去年11月发布的，并非本次西藏地震期间发布。何先生说，自己创作这段AI图片和视频的起因，是看到加沙战争地区的孩子家园遭到破坏、流离失所，希望通过视频传递和平愿望。没想到自己发布在短视频平台上的素材遭到他人盗用，并和西藏地震进行了关联。

暴雨、洪水、地震……每一次灾情发生，人们总会凭着朴素的良知，在力所能及的范围内，用自己的方式来表达善意、贡献自己的力量。然而“搬运”视频者利用人们对灾难的同情和善良来博眼球、赚流量，无疑是对人性底线的践踏！

鉴于该图片存在明显AI生成痕迹，公安机关网安部门迅速开展了核查。经查，青海某网民为博取眼球，将“小男孩被埋图”与日喀则地震相关的信息进行关联拼凑、移花接木，混淆视听、误导群众，致使谣言信息传播扩散。目前，涉案人员已被属地公安机关依法行政拘留。

其实，如果仔细观察这些AI生成的图片、视频，我们相信绝大多数人都可以辨别真伪。比如很多网友都曾分享经验，这些AI画面中的儿童都有六根手指，当画面移动的时候背景会失真等。但很多时候，在重大自然灾害发生之后，善良的人们看到这些图片，善意、同情往往会被本能地调动，而忽视这些细节。一旦人们倾注了自己的善意，却被告知图片或视频是伪造的时候，心里涌现的就不再是关切与同情，而是愤怒与无力。因此有人说，用AI来伪造苦难，是对社会善意的绞杀！

随着AI技术的跨越式发展，科技发展的正向效果与负面冲击交织出现，给人类带来全新的机遇与挑战。与此同时，换脸、换声等AI造假乱象屡屡出现，小到恶意抹黑他人名誉，大到编造灾害信息制造社会恐慌，不仅动摇了所谓“有图有真相”“有视频有真相”的公众传统认知，更大大增加了科普辟谣的难度，甚至容易引发舆情危机，影响政府公信力。

我国《互联网信息服务深度合成管理规定》明确规定，深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。但“徒法不足以自行”，相关规定能不能落实、能不能真正成为约束AI使用者的“紧箍”，不能仅靠AI技术提供者、使用者的自觉守法，还需要全覆盖的监督体系、规范的执法机制和严肃的惩戒机制。