本文报道了西藏日喀则市定日县发生6.8级地震后，一些网友为了获取流量，利用AI技术生成虚假照片，如“被压废墟下的小男孩”图片，并配文发布，导致网友误解。记者测试和律师分析指出，AI软件在涉及敏感话题时应该给予明确警示，平台应加强审核，避免传播虚假信息。
一些网友为了获取流量，利用AI技术生成与地震灾区相关的虚假照片，如“被压废墟下的小男孩”图片，并配文发布，造成网友误解。
AI软件在输入涉及地震等关键词时，未给出“不传播虚假信息”等提示，直接生成相关图片，存在不妥。专家建议AI软件应具备道德和法律判断能力，在涉及敏感话题时给予明确警示。
平台在内容发布前应进行必要的审核，以确保信息的真实性和准确性。但在实际测试中，上传AI生成的虚假图片后，平台仅在内容底部标记“疑似使用了AI生成技术”，存在审核滞后和提示方式不够明显的问题。律师和专家建议平台改进审核机制，提高审核效率，并采用更加直观有效的提示方式。
1月7日9时05分，西藏日喀则市定日县发生6.8级地震，牵动着许多网友的心。但与此同时，一些网友为了流量，利用AI技术生成“灾区”群众被埋、房屋坍塌等虚假照片进行发布，并配文日喀则地震等关键词，造成网友误解。
其中，一张“被压废墟下的小男孩”图片引发广泛关注。图片中，一名戴帽子的小男孩被压在倒塌的废墟下，全身铺满尘埃。记者注意到，这张图片在某短视频平台，被多个账户转发，却配文都与西藏日喀则地震关联，有账户因此获得上万转发和评赞。
▲“被压废墟下的小男孩”图片引发广泛关注
而实际上，这张小男孩图片实际是由AI生成，图中孩子的左手显示为六根手指，且平台也在相关视频下方给出文字提示：“疑似使用AI生成技术，请谨慎甄别”。可虽有提示，不少网友仍被误导，并在留言区关注男孩的生命安全。
▲图中孩子的左手显示为六根手指
这并非个例。在某视频平台上，红星新闻记者以“日喀则地震群众被埋”为关键词进行搜索发现，不少视频博主都发布了AI生成的灾区图片，且都在配文中与日喀则地震关联。尽管大部分图片下方都有小字提示为“AI生成”，但相关内容仍让不少网友信以为真。
为测试该类图片的生成过程，红星新闻记者尝试在多款AI智能生成软件中进行相关图片生成，多数软件生成图片无风险提示，如在一款名为“豆包”的AI智能APP中，记者输入“日喀则地震婴儿被埋”的关键词，软件在未给予任何侵权、违规、虚假信息等干预提示下，自动生成了多张相关图片。
对此，北京京展律师事务所主任律师张晓玲分析认为，AI软件在输入有关地震等关键词时，未给出任何“不传播虚假信息”等提示，直接生成相关图片，存在不妥。
“AI软件在算法上，应当也有能力对关键词进行识别，需要具备一定的道德和法律的判断能力，在用户输入关键词时给予明确的警示，避免生成和传播虚假信息。”张晓玲说。
而在发布环节记者也发现，上传上述AI生成的“地震婴儿被埋”图片后，记者随机配上音乐，并标注“日喀则地震孩子被埋，祈求平安”等字样，相关视频便被顺利发出。视频发布约1小时后，相关内容下方出现“疑似使用AI生成技术”的平台小字提示信息。测试完成后，记者也随即删除视频内容。
▲引热议的“地震小孩被埋图”被曝去年就在某平台的一条短视频中出现过，并声明是AI生成
针对该情况，红星新闻记者以网友身份询问抖音客服，一名接线人员回应称，按照先行审核程序，AI生成的图片及视频只有在创作者发布后，平台才能进行识别和审核。若审核发现为AI图片，平台会在内容底部标记“疑似使用了AI生成技术，请谨慎甄别”字样。
这名客服也表示，如果用户发现有网友借助AI技术传播虚假图片甚至造谣，那么网友可拨打抖音安全与举报专线，或直接点击视频内容进行举报反馈。
