小纪有话说：
过去，很多假新闻可能是通过传统剪辑工具进行后期修改的，而现在，生成式AI正在成为虚假信息传播的主力军。大量虚假照片、视频、GIF图充斥着互联网。
最近，有一名法国女子被AI生成的“布拉德·皮特”照片骗走了83万欧元（折合人民币约626万）。骗子称他需要钱做肾脏手术，因离婚个人账户还被锁定了，该女子信以为真，误以为自己一直和大明星保持联系。
再比如，前阵子，西藏地震后灾区照片又一次将AI造假的话题推上了热搜，AI生成的视频被“张冠李戴”，变成此次震后的视频图。
尽管AI技术无处不在，网友们也越来越擅长辨别AI生成的内容，但事实上，真正成功欺骗大众的图像，往往是那些经过“精心伪造”的图像。
我们整理了2024年传播度较高的十大AI假新闻事件，并分析了其中的作假手段，希望能够帮助大家有效分辨AI生成的虚假内容。
文章来源：AI新榜
作者 | 阿虎 王萌 编辑 | 卷毛
“三界假顶流”：
谁能想到，科技圈、医疗界、食品区的“顶流”们都被造假过。
2024年10月，雷军的AI语音片段刷屏互联网。“雷军”用熟悉的口音精准吐槽：“这游戏做成这样，绝对是来捣乱的。”
因为语气和雷军本人十分相似，不少网友都以为是雷军亲自下场锐评。无独有偶，互联网上还出现了用AI合成于东来的声音，声音特征也与真人无异。
2024年12月，张文宏医生“被AI带货”了。只见视频中的“张医生”正襟危坐，反复介绍一种产品，声音听起来也很像本人。
这样以假乱真的AI合成技术让不少名人明星深受其扰，
深度伪造也成为了AI造假的现象级案件。
大多数AI换脸、换声案件都可以从面部入手来辨别。比如，观察人物面部表情是否自然，有没有光影出现。检查嘴部周围的纹路是否模糊，嘴唇周围细节减少很可能是AI的痕迹。另外，只会重复说一句话，没有连贯的语句就要当心是AI换声的原因。
成熟的3A造假团队
从静态图片到动态视频，从虚假文本到栩栩如生的模拟声音，甚至2024年还出现了成熟的3A（AI写稿、AI录音、AI视频）造假团队。
2024年6月2日，浙江警方因一则关于上虞工业园区的不实火灾消息，破获了一起利用AI制作虚假视频散布网络谣言的非法谋利的案件，据称该团伙仅有3人，却在一个月内使用AI生成并发布了3000个以上的虚假视频，散布谣言博取流量。
2024年1月，江西警方也曾因一条“西安爆炸”异常流量假新闻抓获了一个利用AI技术造谣团伙，该团伙每日量产4000-7000条AI文章，真假难辨。
针对AI文本生成内容，现在也有专门的检测工具，比如腾讯上线了文本检测工具，将
检测文本与大模型预测内容进行重叠度对比
，来推断文章的AI生成概率，帮助用户分辨。
三只羊的“财色”录音门
2024年，知名网络主播“疯狂小杨哥”及其创立的三只羊公司因多起事件引发公众关注，特别是涉及AI技术的伪造录音事件，也是2024年度AI领域的重要案例之一。
事件起因于一段网络热传的录音，内容涉及三只羊公司董事长卢文庆的不当言论。录音曝光后，卢文庆及公司形象受到严重质疑。
警方调查发现，这段录音系由25岁的王某某利用AI语音合成技术伪造。王某某通过AI工具克隆了卢文庆的声音，仅凭约30秒的录音片段，即生成了以假乱真的虚假录音。
批量生成的俄罗斯美女
Olga Loiek是一名乌克兰网红，2024年3月，她被“换脸”“换声”后出现在中文互联网上。
在中国，Olga叫“娜塔莎”，从乌克兰人摇身一变成为了俄罗斯人。她热爱中国的美食和文化，想嫁个中国男人，还拥有超20万粉丝。
更离谱的是，抖音上还有一大群“俄罗斯美女”，用着“Olga Loiek”的脸和声音，自称在中国生活多年，希望嫁给中国男人，然后开始带货😅。
这些批量生成的俄罗斯假AI美女们，因高颜值拿捏了不少中国网友。甚至有网友在评论区感慨，“好不容易心动了，你却告诉我她是AI
。
”
马斯克在互联网既是人生导师，
还是投资专家
2024年最容易被造假的名人当属“马斯克”。
互联网上层出不穷的马斯克语录、马斯克名言，马斯克自己都不知道能在中文互联网上输出这些大道理。
但凡碰到这样的鸡汤图片，都需要我们留个心眼
此前，还有网友利用Deep Live Cam制作了一个口型与声音都高度吻合本人的AI马斯克，并发视频表示手上有高回报的投资机会。
乍一听“马斯克讲投资”很合理，这一虚假视频还骗到了一位美国老人67万美元的退休金。
但值得一提的是，这个视频中，马斯克的眼睛和眨眼节奏有问题。下次我们遇到视频的时候，可以
先盯着人物的眼睛和面部纹理进行判断
。另外，要警惕别随便给陌生人转账。
永不会相融的海水
井水不犯河水，太平洋和北海（大西洋东部海湾）竟然有明显分界线？
不知道大家有没有刷到过这样一条视频，内容显示了太平洋和北海有明显的分界线，并暗示两者之间不会交融。这条AI生成的视频在TikTok上播放量超2000万。有网友在评论区煞有介事地表示，两者海水密度不同，所以不相融。
