作者 | 罗思（Rouse）研究中心

目次

一、 背景：雷总在线“训斥”粉丝，还要给高校捐钱？

二、 分析：普通用户用雷军AI配音制作恶搞视频是否构成侵权？

三、AI配音平台：只提供技术服务，也有侵权风险？

四、域外：美国和欧盟的情况如何？

五、破题：用户和平台应分别履行哪些合规义务，方可避免侵权？

01

背景：雷总在线“训斥”粉丝，还要给高校捐钱？

不少网友在今年十一假期期间浏览短视频时，发现自己遭到了小米集团CEO雷军的“训斥”。短视频中的“雷总”一本正经地对假期堵车、调休和游戏等热门话题展开了锐评， 锐评中甚至包含一些不文明用语 。一些短视频中的“雷总”还表示，自己将为某大学投资50个亿。目前，抖音上“AI雷军”话题已有超过一亿的浏览量，部分网友前往雷军微博留言，询问“雷总，最近为什么在骂人”？对此，雷军以三个“愤怒”的表情符号作出回复 ^[1] 。

图源：凤凰网科技（注：此图中的“雷总”为深度合成，并非雷军先生本人）

实际上，短视频中的“雷总”并非雷军本人，其配音是 由网友通过AI配音软件分析和学习雷军的真实声音后，“克隆”出的雷军模拟声音 ，之后再将该声音与雷军的肖像进行编辑合成，制作出所谓“雷总骂人”的恶搞短视频。事件发酵后，小米法务部已于10月9日介入，向涉事AI配音平台“R平台”发出“删除”通知 ^[2] 。10月29日，雷军本人也在社交媒体官方认证账户对“雷军AI语音包”事件作出回应，称“AI语音包让自己很困扰”，并“希望大家都不要玩了”。

图源：某社交平台官方认证雷军账号

笔者也在R平台上以“雷军”为关键词进行了搜索，发现10月24日仍有三条克隆的雷军声音可供用户使用。不过，笔者在10月29日再次搜索后发现，R平台上的克隆雷军配音均已下架。

10月24日以“雷军”为关键词进行搜索的结果（显示3条克隆配音可供使用）

10月29日以“雷军”为关键词进行搜索的结果，显示“暂无内容”

02

分析：普通用户用雷军AI配音制作恶搞视频是否构成侵权？

“雷总骂人”一事看似是网友们在“玩梗”，但根据我国《民法典》人格权编的规定 ^[3] ， 这类恶搞视频可能会侵犯雷军作为自然人享有的肖像权和声音权益 。此外，如果这些视频导致网友对雷军的品德、声望等社会评价降低，还可能侵犯雷军的 名誉权 。

值得一提的是，我国已有涉及保护自然人的声音权益不受未经许可的AI训练侵犯的案例。2024年4月，北京互联网法院对我国首例AI生成声音侵权案 ^[4] 作出一审判决（现已生效），认定 未经许可使用他人声音进行AI训练，并开发出与其声音相同的AI-文本转语音产品，构成对他人声音权益的侵犯 ，最终判决被告北京某文化传媒公司、某软件公司向原告赔偿损失共计 25万元 。

需要注意的是，北京互联网法院在本案判决中指出，如果利用AI合成的声音能使一般社会公众或相关领域的公众 通过音色、语调和发音风格识别出该自然人 ，该声音可以被认定为具有可识别性。

回到本次事件，即便部分恶搞视频没有出现雷军的形象，标题中也未提及雷军， 一般的短视频平台用户仍然可以通过视频中“雷总”声音的音色、语调和发音风格（例如其独特的“仙桃腔”和“Are you OK? ”一句的英文发音）识别出声音来自雷军 ，表明视频中AI生成的模拟雷军声音 具有可识别性 。同时，因恶搞视频的制作者没有事先从雷军处获得对其声音进行AI训练并生成模拟声音的授权，这一行为显然侵犯了雷军的声音权益。

03

AI配音平台：只提供技术服务，也有侵权风险？

R平台是本次事件中用于生成模拟雷军声音的AI配音平台。该平台的“专业克隆”功能可以通过对用户提供的声音样本进行3-60分钟的 深度训练学习 ，分析每一个 语调、发音方式、节奏、韵律 等细节， 生成 与原声无法区分的克隆合成效果。因此，R平台向用户提供了 互联网信息深度合成和生成式人工智能的服务 。

那么，面对本次事件，R平台能否以只提供声音训练克隆技术构成“技术中立”为由，对平台用户训练上传的克隆声音“不管不问”呢，答案是否定的，因为我国已针对这类提供 深度合成与生成式人工智能服务 的平台出台了监管规定。

在 深度合成服务 的监管方面，2023年1月施行的 《互联网信息服务深度合成管理规定》 ^[5] 明确，任何组织和个人不得利用深度合成服务 侵犯他人的合法权益 ；提供人脸、 人声 等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意，同时要求深度合成服务平台在发现违法和不良信息后，应 依法采取处置措施 ，

在 生成式人工智能 的监管方面，2023年8月施行的 《生成式人工智能服务管理暂行办法》 ^[6] 则要求，生成式人工智能服务平台应“尊重他人合法权益，不得侵害他人 肖像权、名誉权 、荣誉权、隐私权、 知识产权 和个人信息权益”。同时要求平台“建立健全 投诉、举报 机制，设置便捷的投诉、举报入口，并及时处理投诉举报”。

可见，“技术中立”并不意味着平台可以“放任”用户使用深度合成和生成式人工智能生成侵犯他人合法权益内容的理由，这一观点在今年2月宣判的“全国首例生成式人工智能平台侵犯著作权案 ^[7] ”中也得到印证。

在该案中，广州互联网法院认为， 被告某生成式人工智能平台根据用户输入的提示词 ，生成了与原告享有独占授权的“奥特曼”作品构成实质性相似的图片， 侵害了原告享有的著作权 ，同时认为该平台 未能尽到 包括设立侵权投诉举报机制、提示潜在风险、对生成内容进行显著标识等 注意义务 。最终，广州互联网法院判决该平台赔偿原告经济损失及合理开支共计1万元 ^[8] 。

图源：南方财经

上图为原告享有独占授权的“奥特曼”作品，下图为被告平台生成的奥特曼图片

04

域外：美国和欧盟的情况如何？

在海外，深度合成和生成式人工智能技术的应用同样引发了诸多争议。

2024年1月，由人工智能生成的假美国歌手“ 泰勒·斯威夫特 ”（Taylor Swift）带货广告在海外社交上广泛传播（见下图） ^[9] ，引发了公众对于AI生成内容真实性的担忧。

图源：澎湃新闻

2024年5月，美国演员“寡姐”斯嘉丽·约翰逊表示，OpenAI发布的 语音助手 —“SKY”的 声音与自己的声音高度近似 ，尽管OpenAI随后发文回应“SKY”的声音是由一名专业演员录制，但在收到约翰逊的通知后，OpenAI最后决定暂停在其产品中使用“SKY”助手 ^[10] 。

自2023年来，包括《纽约时报》《华尔街日报》在内的多家媒体、多位个人作家及艺术家，以及环球、华纳和索尼三大唱片公司，已分别对OpenAI、Stability AI、Perplexity和Suno等生成式AI平台提起了诉讼。他们 认为这些平台未经版权人的许可，使用其受版权保护的作品“训练”人工智能大模型，构成版权侵权 。然而，美国尚未有法院对这类诉讼作出判决，因此，这类训练行为在美国是否构成侵权目前仍无定论。

为遏制侵犯人格权的“欺骗性合成内容”产生，2024年7月，美国参议员提出《COPIED法案》 ^[11] ，希望通过标准化的水印技术对深度合成内容进行标识。州一级层面， 美国 加利福尼亚州 ^[12] 、伊利诺伊州 ^[13] 、路易斯安那州 ^[114] 和田纳西州 ^[15] 均通过了州一级立法，旨在保护自然人的形象和声音权益免受深度合成和生成式人工智能服务的侵害。

2024年5月，欧盟通过 《人工智能法案》（EU Artificial Intelligence Act） ^[16] ，同样要求生成或合成图像、音频或视频内容的系统必须符合最低透明度标准，即 平台（提供者）应向用户标识此类内容是由“人为生成”的。

05

破题：用户和平台应分别履行哪些合规义务，方可避免侵权？

深度合成与生成式人工智能技术的进步极大地丰富、简化了创作者的创作过程，然而，任何创作活动都必须在法律框架内进行。如此才能让大家能在“Are you ok?”带来的欢笑中，享受技术进步带来的红利，而不是让其成为侵权行为滋生的“温床”。因此，用户和平台应各自履行合规义务，避免侵权行为的产生。

用户合规义务

用户在使用深度合成与生成式人工智能技术时，应避免生成可能 违反法律法规、道德伦理或侵犯他人合法权益的内容， 特别是涉及 肖像权、声音权 和 知识产权 的内容。如需编辑他人的肖像或声音，应事先获得被编辑人的明确同意。

平台合规义务

平台可以在 事前、事中和事后 三个时间节点履行合规义务，避免因生成内容侵犯他人权益而承担侵权责任，具体来看：

一

事前关键词： 评估备案 ；实名验证；投诉机制

• 提供服务前履行大模型的 安全评估 和 算法备案 义务
• 在用户注册时要求其使用 手机号码 或 支付宝人脸识别 进行验证，帮助平台溯源“不良”用户
• 事先 建立侵权投诉处理机制 ，为被侵权人提供投诉的便利途径

二

事中关键词：显著标识；单独同意

• 在合成音频内容的明显位置进行 显著标识（如“本内容为AI生成”） ，避免造成公众混淆或误认
• 在用户上传素材、生成模型、公开分享等操作过程中，以显著方式提醒用户 不得上传、发布任何违反法律或侵犯他人合法权益（包括知识产权） 的内容，同时要求用户 保证已获得被编辑人声个人的单独同意
  
  

三

事后关键词：及时处理投诉；主动治理

• 及时处理被侵权人发出的侵权投诉通知，对侵权内容采取 删除、屏蔽、断开 链接 等必要措施
• 设置屏蔽、过滤的关键词， 主动对反复、大量的侵权 内容进行侦测治理

注释（上下滑动阅览）

【1】https://news.qq.com/rain/a/20241010A048ZO00

【2】https://m.thepaper.cn/newsDetail_forward_29007491

【3】《民法典》第1019条、第1023条

【4】北京互联网法院（2023）京0491民初12142号民事判决书

【5】https://www.gov.cn/zhengce/zhengceku/2022-12/12/content_5731431.htm

【6】https://www.cac.gov.cn/2023-07/13/c_1690898327029107.htm

【7】https://www.21jingji.com/article/20240226/herald/133a6c2f9c0b045899e4dea10c5778eb.html

【8】广州互联网法院（2024）粤0192民初113号民事判决书

【9】https://m.thepaper.cn/newsDetail_forward_26040147

【10】https://m.thepaper.cn/newsDetail_forward_27492777

【11】Content Origin Protection and Integrity from Edited and Deepfaked Media (COPIED) 法案

【12】AB 2602和AB 1836法案

【13】HB 4875法案

【14】Allen Toussaint Legacy 法案

【15】Ensuring Likeness Voice and Image Security (ELVIS) 法案

【16】https://eur-lex.europa.eu/eli/reg/2024/1689/oj

罗思专栏文章

SPECIAL COLUMN

罗思专栏 | 歌词、编曲都不一样还会侵权？揭秘音乐行业的“克隆危机”——“洗歌”

罗思专栏 | 被滥发侵权警告时也有招？——解读请求确认知识产权不侵权之诉