靳东雷军刘晓庆都受其害，AI已开始作恶！

传媒头条 · 公众号 · · 2025-03-06 22:26

正文

来源丨传媒圈-传媒头条文丨钟彬

在3月5日的政协小组讨论上，全国政协委员靳东回应了AI换脸导致的诈骗问题。

他说：“一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣。希望能建立更好的规则。”

无独有偶，全国人大代表、小米集团创始人、董事长兼CEO雷军在几天前也提出了一项备受瞩目的建议——加强“AI换脸拟声”违法侵权重灾区治理。

他指出，人工智能深度合成技术迅猛发展，使“AI换脸拟声”在众多领域广泛兴起，然而，其不当滥用已沦为违法侵权行为的重灾区，对构建“以人为本、智能向善”的人工智能发展生态极为不利。

雷军本人便是“AI换脸拟声”技术滥用的受害者之一。去年国庆假期，各种“雷军语音包”在网络上肆意流传，内容从吐槽假期到不堪入耳的骂人话语，应有尽有。这一现象给雷军带来极大困扰，他不得不专门发布视频，呼吁大家停止恶搞。可即便如此，此类侵权行为依旧屡禁不止。

事实上，受“AI换脸拟声”之害的远不止雷军一人。3月3日，演员刘晓庆发文称，网友向她反馈有人在视频号通过AI生成视频假冒她。

从网友分享的截图可见，该账号名为“晓庆人生”，认证主体为广州慈亿生物技术有限公司，账号内9条视频均利用刘晓庆的形象与声音通过AI生成，部分视频虽标注了 “内容为AI技术制作，虚构内容请谨慎甄别”，但仍有两条未作提示。刘晓庆对此感到十分震惊，直言画面和声音像自己，却并非本人，担心大家会混淆真假。

事实上，刘德华近期也成为AI伪造视频的素材。一些营销账号为博眼球、获流量，通过拼凑视频素材以及AI伪造视频，宣称“刘德华在澳洲、欧洲、澳门演唱会上，现场喊话观众助力哪吒冲击票房，承诺向所有粉丝赠送哪吒电影票”。这些虚假视频竟让部分账号粉丝量超50万，不少网友信以为真，纷纷称赞刘德华“格局大”，还喊话梁朝伟“跟上”。

“AI换脸拟声”技术本应是推动各行业发展的有力工具，在影视制作中，它能帮助演员完成高难度或特殊场景的表演，为观众带来更震撼的视觉体验；在教育领域，可通过模拟历史人物的声音和形象，让知识讲解更生动有趣，提升学习效果；在医疗方面，能辅助医生进行手术模拟等，提高医疗技术水平。

在情感疗愈方面，AI生成合成的音视频则有着无可比拟的价值。近期一档综艺上，韩庚就用AI“复活”岳父母，让妻子卢靖姗感动到泪流不止，而那句再也听不见的“我爱你”，成为了她久违的惊喜。

然而，当这项技术被不法分子恶意利用，便成了侵犯他人权益、扰乱社会秩序的“凶器”。它不仅侵犯了公众人物和普通人的肖像权、名誉权，还可能引发公民个人信息泄露以及诈骗等严重犯罪行为。公众在面对这些以假乱真的音视频时，往往难辨真假，极易受到误导，进而对社会信任体系造成冲击。

面对这一乱象，法律的规制至关重要。由于人工智能是发展日新月异，目前我国在AI合成音视频侵权方面的法律尚不完善。有律师认为，即便部分账号标注“AI生成”等字样，若视频内容侵犯他人肖像权、名誉权或传播虚假信息，依旧构成侵权，这些标注虽能在一定程度上减少对公众的误导，但无法完全免责。

2023年国家网信办、工信部、公安部联合发布的《互联网信息服务深度合成管理规定》，以及2024年网信办发布的《人工智能生成合成内容标识办法（征求意见稿）》，虽对AI生成内容提出了一些规范要求，但在实际执行过程中，仍存在诸多困难和挑战。

雷军提出的建议极具针对性和建设性：

他建议加快人工智能单行法立法进程，在保障安全与促进发展并重的基础上提升立法位阶，明确“AI换脸拟声” 应用边界红线，完善侵权证据规则，加大对利用人工智能技术实施犯罪行为的刑事处罚力度。

同时，强化行业自律共治，压实平台企业等各方的责任和义务，支持平台企业开发精准识别AI深度合成内容的技术能力，优化升级内容审核、投诉举报和应急处理等机制，及时阻断问题内容传播。

此外，加大AI方面的普法宣传广度和力度，增强民众的警惕性和鉴别力，例如在中小学人工智能教材中加入伦理规范内容，深入老年人聚居的社区开展知识普及活动。

要有效遏制“AI换脸拟声”违法侵权乱象，需要全社会共同努力。

法律层面，应加快完善相关法律法规，填补法律空白，让执法和司法有更明确的依据；行业方面，企业要强化自律意识，加强技术研发的合规审查，积极承担社会责任；平台需切实履行主体责任，利用技术手段加强对内容的审核管理，建立高效的投诉举报和处理机制；民众自身也要提高辨别能力和法律意识，不轻易相信和传播未经证实的信息，遇到侵权行为及时举报。

只有各方协同合作，才能营造健康、安全、有序的网络环境和人工智能发展生态，让技术真正造福人类。

-END-

靳东雷军刘晓庆都受其害，AI已开始作恶！

正文

无独有偶，全国人大代表、小米集团创始人、董事长兼CEO雷军在几天前也提出了一项备受瞩目的建议——加强“AI换脸拟声”违法侵权重灾区治理。

他指出，人工智能深度合成技术迅猛发展，使“AI换脸拟声”在众多领域广泛兴起，然而，其不当滥用已沦为违法侵权行为的重灾区，对构建“以人为本、智能向善”的人工智能发展生态极为不利。

请到「今天看啥」查看全文