专栏名称: 网信开平

提升综合治理水平，推动科技向善

网信开平 · 公众号 · · 2025-03-16 10:08

正文

点击上方蓝色字关注我们~

▼ ▼ ▼

近年来，新一代生成式人工智能（AI）以颠覆性的创新和应用为经济社会发展带来新动能，同时也带来一些新问题。例如，“AI换脸拟声”侵权现象时有发生，引发社会广泛关注。

今年的政府工作报告提出，持续推进 “人工智能+”行动。全国两会上，代表委员们围绕如何更好把握人工智能发展机遇、更好应对新技术带来的风险挑战，积极建言献策。不少代表委员呼吁，提升综合治理水平，推动科技向善，促进AI技术、AI产业健康有序发展。

AI不当滥用引发代表委员关注

小米集团创始人、董事长兼CEO雷军代表表示，AI深度合成技术的快速发展，推动了“AI换脸拟声”在影视、广告、社交等领域广泛兴起，成为社会喜闻乐见、传播力强、易成热点的技术应用。

“但同时也要看到，‘AI换脸拟声’不当滥用成了违法侵权行为的重灾区，易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为，甚至造成难以挽回的大规模形象和声誉损害，带来社会治理等风险。AI深度合成技术具有所需素材获取便利、技术使用门槛低、侵权主体及手段隐蔽性强等特点，给治理带来较大挑战。”雷军代表说。

美的集团副总裁兼首席财务官钟铮代表在调研中发现，网络上出现了一些AI生成的视频，模仿明星或专家的形象、声音，推销保健品，许多老年人上当购买了这些产品，蒙受经济损失。

中国民办教育协会副会长、云南工商学院执行校长李孝轩委员表示，AI的高仿真性特征，让普通人真假难辨、防不胜防。一些不法分子通过定制网络钓鱼邮件或短信，大肆收集个人面部、声音等数据资料，恶搞知名企业家，借助多个AI账号冒充名人直播带货，且账号多变，应引起重视。

监管滞后于AI技术发展

“AI技术降低了视频制作的门槛，使得虚假内容的生成变得容易。老年人对AI生成的虚假视频识别能力较弱，容易受到误导。”钟铮代表说，这与相关法律法规尚不完善，特别是在版权归属和隐私保护方面存在空白有关。

李孝轩委员表示，当前，我国人工智能法规体系还不完善。虽然制定发布了网络安全审查办法、《生成式人工智能服务管理暂行办法》等多部法律规章和相关国家标准，但监管仍滞后于AI技术发展。

提升综合治理水平，推动科技向善

正文

请到「今天看啥」查看全文