你的声音被谁“偷”走了

亲耳听到的就是真的吗？

未必。 网络平台上，AI声音随处可见。

从“张文宏医生”推销蛋白棒视频“走红”网络，后被本人“打假”，到多位配音演员称声音被AI“偷走”，公开维权……

随着人工智能技术和语音大模型应用的发展，AI合成声音APP大量出现，最快只需十几秒便可“克隆”出来。

与此同时，AI声音滥用现象愈发突出，不时引发争议。

01 AI声音滥用不时发生

在某短视频平台以“AI克隆声音”为关键词检索发现， 明星翻唱、新闻播报、吐槽点评等大量视频涉及AI声音， 有些甚至出现不雅词汇，不少视频点赞和评论量过千。

在社交平台上， 通过AI模仿恶搞各领域名人的音视频不在少数。

一些商家在短视频平台带货时，通过AI模仿声音技术 将主播“变”为知名女明星、知名医生，销售服装、保健品等相关产品， 对消费者造成了严重误导。

中国社会科学院大学互联网法治研究中心主任刘晓春表示， 在未经过授权、未进行标注的情况下， 用他人声音制作AI语音产品，尤其是“借用”公众人物的声音，很容易引起误解， 不仅会侵害个人信息安全，还可能扰乱网络空间生态和秩序。

02 声音是如何被“偷”走的

AI如何生成以假乱真的声音？受访专家介绍，AI能够“克隆”声音， 主要是依靠深度学习算法， 即短时间内从采集的声音样本中提取关键特征， 包括频率、音色、声调、语速、情感等， 将这些特征记录为数学模型，再通过算法合成。

随着算法越来越先进，在高性能设备和高精度模型的加持下， AI生成的语音内容从两年前的“一眼假”升级到如今的“真假难辨”。

AI声音在最近一两年时间内变得格外“流行”。人工智能技术的普及，让AI模拟声音的门槛大幅降低。 通过一些开源软件和平台，没有专业知识的普通用户也能操作。

大量APP能够进行AI合成声音，最快只需十几秒。 一款APP的客服人员表示，花198元就能解锁付费会员，对着镜头说几遍“12345”，AI就会根据声音生成各类内容的出镜口播视频。通过这款软件生成的名人声音， 基本可以以假乱真，且录入名人声音不需要提供任何授权证明。

03 多措并举强化治理

用AI生成他人声音，是否违法违规？

多位受访专家表示， 个人声音中包含的声纹信息具备可识别性， 能以电子方式记录，能关联到唯一自然人，是生物识别信息， 属于个人信息保护法规定的敏感个人信息之一。

2024年4月，北京互联网法院宣判全国首例“AI声音侵权案”，明确认定在具备可识别性的前提下， 自然人声音权益的保护范围可及于AI生成声音。 该法院法官认为，未经权利人许可，擅自使用或许可他人使用录音制品中的声音构成侵权。

近年来，有关主管部门出台《人工智能生成合成内容标识办法（征求意见稿）》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等规定， 一定程度上给AI技术使用划定了红线。

2024年12月，国家广电总局网络视听司发布《管理提示（AI魔改）》， 要求严格落实生成式人工智能内容审核要求， 对在平台上使用、传播的各类相关技术产品严格准入和监看， 对AI生成内容做出显著提示。