专栏名称: 果壳
果壳网(Guokr.com)是开放、多元的泛科技兴趣社区。
目录
相关文章推荐
原理  ·  如何决定何时坚持,何时放弃? ·  3 天前  
科普中国  ·  一个月狂减 20 ... ·  昨天  
科普中国  ·  推进高水平科技自立自强!最新部署→ ·  2 天前  
51好读  ›  专栏  ›  果壳

AI生成的“假靳东”把咱奶哄成胚胎,“真靳东”在两会上发声了!

果壳  · 公众号  · 科学  · 2025-03-13 20:00

正文

本文授权转载自“南风窗”,点击上方关注。 ID:SouthReviews


图片


作者 | 南风窗记者 奚佑

编辑 | 阿树


又是靳东。


连续两年全国两会,政协委员靳东都提交了有关AI技术与网络平台立法的建议。


3月5日,在政协小组讨论上,靳东回应称:“一些喜欢我影视剧的观众,被AI换脸视频骗得很惨,这个性质非常恶劣。希望能建立更好的规则。”


图片

靳东回应AI换脸导致的诈骗问题


靳东所指的,让人们联想到了去年11月,江西宜春,一位老人来到银行,扬言要贷款200万,给网恋男友“靳东”拍戏。她的材料不全,银行没给办,但坚持不肯离开。好在民警赶来劝阻,才知所谓靳东是AI换脸视频。一场骗局险些成真。


这不是孤立案件。“AI假靳东”登上热搜后,一些网友纷纷讲起在家帮老人和AI“斗法”的过程。老人们沉迷刷AI靳东,无法自拔。帮他们破除AI迷障,成了家庭生活的日常。


考虑到靳东在中老年群体中的观众基础,即便类似诈骗近年来屡见报端,但“假靳东”依然在互联网的隐秘处招摇。


2020年秋天,江西都市频道报道了当地一则轶闻,一名61岁女子,因与“假靳东”网恋数年,离家出走。“假靳东”至此广为人知,但大都是演员靳东的影视片段,配上腔调生硬的机械男声,有的甚至操着浓重的地方口音,破绽百出。


图片


五年过去,骗术套路未变,技术却愈发逼真了。有了AI换脸和AI拟声技术的加持,“假靳东”在方寸屏幕之间愈发栩栩如生、真假难辨起来。


换脸技术不新鲜。只是,如今AI技术以假乱真,互联网空间AI信息泛滥成灾。年轻一代网友“冲浪”经验丰富,练就了“火眼金睛”,依然难免被骗,何况中老年和未成年群体,对AI技术不甚了解,所以存在巨大认知盲区。


因此,对人工智能生成内容的规范和治理,也成了今年全国两会期间多个委员代表的关注议题。


全国人大代表、小米集团创始人雷军建议,加强“AI换脸拟声”违法侵权重灾区治理——去年国庆期间,“AI雷军”那句“开小米Su7创死你们”,就让他本人深受其扰。全国政协委员、四川大学华西医院教授甘华田则称,应当加快制定针对AI生成虚假信息的专项法律法规。


图片

雷军深受AI拟声恶搞视频所扰


甘华田在接受媒体采访时强调,AI生成的虚假信息“已严重干扰公众判断、损害社会公信力和稳定”。


清华大学新闻与传播学院副教授陆洪磊告诉南风窗,如果对AI谣言放任自流,很可能会对社会的信心和稳定在造成巨大冲击。


他说:“我们正在面临一场前所未有的认知战争。”


真与假的边缘


一个看起来不过周岁左右的婴儿,左手端握着瓷碗,右手熟练地使用筷子,把沾满辣椒酱的面条喂进嘴中、咀嚼吞下。


图片


光是文字描述,大多数人都能立刻意识到上述场景违反常理之处,如果进一步仔细辨认其中的细节,人们会发现,面条在被夹起以后骤然变得稀疏,与婴儿吞咽的节奏并不一致——显然,这是AI生成的“杰作”。


但仅凭这样粗糙的完成度,就足以令一部分中老年用户蒙在鼓中。在AI生成的婴幼儿短视频的评论区,鲜花、爱心和大拇指的表情包,被“人海沉浮”“上善若水”们反复敲下,堆砌成一片热烈的海洋。


一则广为流传的AI视频中,一群胖嘟嘟的婴儿,抱着硕大的金元宝,迎面走来。评论区清一色是“爷爷(或奶奶)接住了。”


图片


春节期间,有网友回家过年,发现家中老人对着这样一段短短几秒的视频,反复观看了一个小时,笑得合不拢嘴,“老人沉迷假孙子”现象,这才引起了广泛的关注,也让AI假信息在老年群体中的泛滥问题,引发了广泛讨论。


部分AI短视频底部,会附以一行半透明的小字:“作者提示:内容为AI技术制作,虚构内容请谨慎甄别。”先不论这行不起眼的小字能否被中老年人的老花眼睛看清,“AI”究竟是什么、有什么用,他们或许都不甚清晰,只怀抱着一副朴素的心态浏览互联网上的种种奇观:“视频怎么会骗人呢?”


被AI蒙骗,并非中老年人的“专利”。就在上个月,正值壮年的“80后”也被AI谣言玩弄于股掌之中:一则“中国80后累计死亡率为5.20%”的信息在网络上肆意蔓延,而中国人民大学教授李婷对此公开辟谣时称,这一虚假数据很有可能“来源于AI大模型的错误”。


甚至股市也会被AI谣言操纵。2023年5月,一网友利用某生成式AI撰写信息发表于某股市平台,造成科大讯飞当日午后遭遇股价跳水,盘中一度跌超9%。


图片

AI生成的信息导致股价跳水


陆洪磊告诉南风窗,AI谣言的可怕之处就在于,“它与新闻的边界正在变得越来越模糊”。


传统谣言更像一则模糊的信息,模糊之中存在大量逻辑漏洞,普通人很容易辨别。而AI可以赋予谣言确切的时间、地点、人物,甚至是信源和图片,“一本正经地胡说八道”,更像一则真实发布的新闻信息。


这种高度的逼真性,让谣言的威力提升至一个新的水平。陆洪磊打了个比方,如果说互联网的诞生让谣言从“冷兵器”进入“热兵器”时代,那么AI谣言的破坏力就是“核武器”。


“良心活”







请到「今天看啥」查看全文