6日早间，全国政协委员、中国煤矿文工团团长靳东谈到AI换脸导致的诈骗问题，在社交平台引热议。他说：“一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣。希望能建立更好的规则。”
▲媒体报道截图
就在前几天，全国人大代表、小米集团董事长兼CEO雷军在其建议案中也提到，“AI换脸拟声”的不当滥用成了违法侵权行为的重灾区。
相关话题也冲上微博热搜榜单第一名。
对此，不少网友表示，希望尽快立法。
AI剪辑冒充明星的案例屡见不鲜
2024年11月，江西一位老人来到银行办理银行卡，但手续不全又不肯离开，警方到现场后，老人表示要到银行贷款200万元给自己的男朋友“靳东”拍戏。
民警随即拿起老人的手机进行查看，发现老人所谓的大明星“靳东”是骗子冒充的，其所发布的视频也是由电脑AI合成，但老人对网络知之甚少，对于骗子所说所做深信不疑。
最终，民警通过向老人展示网络上一些冒充“靳东”诈骗的新闻和现场利用AI合成照片等方式，老人才幡然醒悟，表示不会再相信网络上的“靳东”，并放弃了开卡贷款的念头。
3月3日，有网友向演员刘晓庆求证：“@刘晓庆 我看到一个微信视频号发了很多你的视频，好像是AI生成的，是假冒的吧？很多话不是你说的。”
天哪，我点进去看了一下，画面是我，声音很像我，但不是我！这是怎么做到的？大家以后不会搞不清楚哪个才是真的我了吧？我在各个平台都叫刘晓庆！
