近日，有微博网友发文向演员刘晓庆求证：看到一个视频号发了很多刘晓庆的视频，好像是AI生成的，是假冒的吧？
有记者查询发现，这个叫“晓庆人生”的视频号所发视频，有非常多的点赞和评论，其中点赞最高的一条达到7.8万赞。
对此，刘晓庆转发回应：
天哪，我点进去看了一下，画面是我，声音很像我，但不是我！这是怎么做到的？大家以后不会搞不清楚哪个才是真的我了吧？我在各个平台都叫刘晓庆！
网友纷纷提醒：现在AI已经很成熟了，要注意识别，不要上当受骗。
截至发稿，视频号已搜索不到“晓庆人生”视频号。
AI合成名人音视频 乱象频出
不止刘晓庆，据央视新闻此前报道，雷军、刘德华等多位各界名人都是AI合成名人音视频乱象的受害者。
从恶搞企业家雷军到AI制作张文宏医生音视频为自己带货，甚至还有不法分子利用AI深度合成视频，进行诈骗。还曾有网友曾利用AI制作的刘德华声音，为自己博取流量，刘德华电影公司还紧急发布声明提醒网民，不要落入伪造刘德华声音的AI语音合成技术骗局。
而相应的深度合成软件在网络上下载并不算难，还有一些网络主播会开直播教网友如何使用。
专家表示此类软件目前在网络上有数十种，不过不论换声还是换脸软件，不同的场景需要调整相应的参数，步骤较多，属于半专业软件，有一定的技术门槛，所以不被网民熟知。但是记者发现目前在短视频平台有众多主播在教网民使用相关软件。
今年2月，中央网信办发布消息，2025年“清朗”系列专项行动将进一步巩固提升治理成效，聚焦人民群众反映强烈的突出问题。其中就专门提出“整治AI技术滥用乱象”。突出AI技术管理和信息内容管理，强化生成合成内容标识，打击借AI技术生成发布虚假信息、实施网络水军行为等问题，规范AI类应用网络生态。
未经授权，合成制作他人视频声音属侵权
那么，在网络购物平台使用AI深度合成技术，制作出售名人的音视频，是否触犯相关法律呢？专家表示，相关法律法规明确规定，未经授权，不得深度合成制作发布他人信息。网店接单AI深度合成制作名人视频，已经属于侵权行为，并应该承担相应的法律责任。
北京航空航天大学法学院副教授赵精武表示：在司法实践中，国内已经审结了首例AI生成声音人格权侵权案。在这个案子里，原告作为配音演员，在没有经过授权的情况下，他的声音被AI生成后对外出售。法院在审理中认为，我国的民法典已经在人格权编，将自然人的声音视为一种人格权益，具有人身专属性。所以，法院最终认定被告的行为构成侵权。
此外，中国计算机学会计算机安全专业委员会委员吕延辉还表示：防范AI侵权问题需要从法律、平台和公众等多个层面综合施策。法律层面，要进一步完善相关立法，细化AI克隆技术的法律条款，明确侵权行为的定义和责任，同时加强执法力度。平台层面，要强化相关政策法规的宣贯和执行，做好已有数据的保护，应用技术手段来规避AI克隆侵权问题的发生，同时也要建立健全内容审核和侵权举报机制，及时发现和处理侵权问题。
近日，也有政协委员针对AI生成虚假信息治理表达了自己的关切。
全国政协委员、四川大学华西医院教授甘华田表示，今年全国两会期间，他拟提出加强对AI生成虚假信息治理的建议。近些年，通过AI技术深度伪造视频、政府公告、企业声明、名人言论、虚假金融信息等行为，已严重干扰了公众的判断，损害了社会的公信力和稳定。这类虚假信息不仅误导消费者，还可能对社会秩序、国家安全甚至人民群众的生命财产安全构成威胁。然而我国现行法律对AI生成内容的监管责任界定模糊，相关法律滞后，平台审核技术能力不足，违法成本低，治理难度大。因此，加强对AI生成虚假信息的治理和打击力度，已成为当前亟待解决的问题。
