专栏名称: 网络法实务圈
探寻网络法实务,汇聚网络法精英。
目录
相关文章推荐
深圳特区报  ·  2933.3万人次! ·  3 天前  
深圳图书馆  ·  周末选读 │ 于无声处:黄旭华传(节选) ·  3 天前  
深圳图书馆  ·  施爱东:理想故事的诞生 ·  4 天前  
新加坡眼  ·  新加坡怎么过元宵节? ·  3 天前  
51好读  ›  专栏  ›  网络法实务圈

法律边界下的AI“复活”:技术应用需慎行

网络法实务圈  · 公众号  ·  · 2024-11-06 16:55

正文

AI“复活”技术即利用人工智能,在虚拟空间中模拟生成能动的照片、换脸视频和交互数字人等可视化的数字形象,因其满足了大众的情感需求和猎奇心理而火爆市场,但在大规模商用的同时也伴生出诸多社会争议与法律风险,主要有以下表现:


重生名人引流

01


部分商家、粉丝为吸引流量变现,未经同意私下利用AI“复活”技术让照片上的已逝名人“开口说话”。但因该技术需要采集大量逝者的样貌数据、声音样本等个人身份信息和生物识别信息进行AI模型训练,且目前对该类信息普遍缺少健全的数据保存和销毁机制,一旦其中敏感信息被不当处理,易引发严重的隐私泄露和人格权益侵害。据人民网报道,一博主未经家属同意,私自用AI生成视频和声音“复活”李玟、乔任梁等诸多已逝明星,并公开传播引流,不仅“揭活人伤疤”,更造成人格权益侵犯,被明星家属斥责后才下架相关视频

换脸形成黑产

02


不法分子利用AI换脸技术,将非法收集到的他人面部信息替换到淫秽视频中,形成一条上游提供软件及技术、中游提供视频和照片定制、下游售卖成品视频的黑色产业链,并通过创建群组、收取入群费用等多种方式牟取不法利益,社会影响恶劣。

借数字人恶意侵权

03


当前由AI技术生成的虚拟数字人逐渐在影视、游戏、传媒等众多领域现身并拥有强大的吸金能力,但对其著作权、表演权归属尚未有明确的法律界定,部分企业趁机钻法律空子,肆意盗用其他公司完整成熟的数字人形象,稍加改造进行表演宣传,并模糊水印标识,误导公众混淆企业品牌,或引发不正当竞争。

深度伪造实施诈骗

04


AI“复活”技术让不法分子借助智能AI换脸和拟声技术,就可以实施远程视频、电话诈骗。 而一般群众普遍缺乏此类专业知识,不会也没有能力核实AI数字人的形象、言论的真实性,不法分子借“复活”之名行电信网络诈骗之实日益猖獗,其中不熟悉网络应用的中老年群体成为受害重灾区。







请到「今天看啥」查看全文


推荐文章
深圳特区报  ·  2933.3万人次!
3 天前
深圳图书馆  ·  施爱东:理想故事的诞生
4 天前
新加坡眼  ·  新加坡怎么过元宵节?
3 天前
剑圣喵大师  ·  所谓情商高,就是看破不说破
7 年前