记者
罗亦丹 陈维城 韦英姿
编辑 岳彩周
实习生 郭栩君
AI在带来便利性的同时，其深度伪造也为当事人带来了困扰。近期，雷军、靳东纷纷对此建言。
据人民日报消息，3月5日，在政协小组讨论上，全国政协委员靳东回应了AI换脸导致的诈骗问题。他说：“一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣。希望能建立更好的规则。”
不仅仅是演员，一些企业家也经常被深度伪造。从去年国庆节开始，短视频平台涌现大量“雷军”发言视频。AI生成的“雷军”雷言雷语、荒诞不经，相关话题给雷军和小米造成了很大困扰和伤害。
对此，雷军在今年两会期间建议，加快单行法立法进程，在安全与发展并重的基础上提升立法位阶。强化行业自律共治，压实平台企业等各方的责任和义务。加大普法宣传的广度力度，增强民众的警惕性和鉴别力。
对于深度伪造事件频发，某短视频平台相关负责人表示，我们平台提倡创作者在发布相关内容时使用“作者声明”功能，对AI生成内容进行标注，不得发布含有侵犯他人合法权益及其他法律法规、平台规则禁止的内容，用户如发现相关违法违规内容可通过举报入口的相应举报类型进行举报。
另一短视频平台相关负责人表示，本平台会借助AIGC识别模型等相应技术，主动检测内容是否为AI生成，并结合人工识别进行判断，对判定为疑似AI生成的内容，平台会主动予以标注“疑似使用了AI生成技术，请谨慎甄别”。本平台禁止利用生成式人工智能技术创作发布违背科学常识、弄虚作假、造谣传谣的内容。一经发现，平台将严格处罚。
全国人大代表、小米集团创始人、董事长兼CEO雷军：
“AI换脸拟声”不当滥用成为违法侵权行为的重灾区，易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为，不利于构建“以人为本、智能向善”的人工智能发展生态。
建议加快单行法立法进程，在安全与发展并重的基础上提升立法位阶。强化行业自律共治，压实平台企业等各方的责任和义务。加大普法宣传的广度力度，增强民众的警惕性和鉴别力。
全国人大代表、TCL创始人、董事长李东生：
随着生成式人工智能技术的发展，深度伪造技术也快速发展。对于防止AI深度伪造欺诈，建议：一是加快人工智能深度合成内容标识管理规章制度的出台。二是明确对人工智能深度合成服务商未履行标识义务的惩罚制度，完善未按要求进行标识的行为界定、分类细则，以及相应的处罚标准。三是加强深度合成内容标识技术标准和发布的管理，保证标识的有效性，对相关内容平台出台要求，用户在发布深度合成的视频、音频等内容时，有义务对其进行标识。四是加强国际合作，形成对人工智能深度合成内容的有效监管。
瑞莱智慧联合创始人萧子豪：
近些年来，假靳东、假雷军等AI换脸、拟声事件层出不穷，AI伪造内容越来越逼真且多元。这是AI技术发展带来的“副作用”。所有技术都存在两面性，都有“双刃剑”效应。如何用人类智慧驾驭人工智能，趋利避害地使用技术，是AI时代的重要课题。
数据治理与成果转化法律专家杨逢柱：
通过AI合成名人音频和视频进行虚假宣传和诈骗的事件频频发生，原因主要有以下几方面：第一，AI训练模型的数据“被污染”，即数据掺杂虚假信息，经过循环传播后又被AI吸收，将其默认为真实信息；第二，技术局限性，在海量数据形成统计模型时容易丢失细节信息，或通过微调AI参数生成错误结果，如篡改图像欺骗人脸识别系统，或通过对抗训练生成逼真内容，如伪造名人代言视频；第三，AI造假成本低而追责难度高，自媒体和商业竞争者为吸引流量，利用AI生成虚假信息加剧了信息污染，加上公众盲目信任AI生成的内容，进一步加剧了虚假信息的扩散。
