专栏名称: 爱范儿
关注这个时代最好的产品。
目录
相关文章推荐
新浪科技  ·  【#光线传媒源于哪吒2营收约至10.10亿# ... ·  昨天  
新浪科技  ·  【#微信报告春节蓝包首秀#：#微信书籍类送礼 ... ·  昨天  
新浪科技  ·  【#小鹏推出5年0利息0首付政策#】 ... ·  昨天  
硅星人Pro  ·  DeepSeek爆火后，它的研究员们怎么样了 ·  昨天  
微软科技  ·  新年开工Copilot小贴士，总有一个能用上！ ·  2 天前  
51好读  ›  专栏  ›  爱范儿

雷军 AI 配音骂人刷屏网络，本人怒了，警惕 Deepfake 泛滥的新时代

爱范儿  · 公众号  · 科技媒体  · 2024-10-12 11:59

正文

用AI整活
的朋友们
你们好


请问，长假 7 天，被 AI 用雷军的声音骂了 6 天，是什么体验？
雷军本人无辜躺枪，博主们在违法边缘试探或者已经违法，网友短暂地看了热闹然后回归工位，小米法务部两眼一黑，收不回手里的 40 米大刀。
声音克隆，这事其实已经不新鲜了，但泛滥成灾的后果，才刚刚显露端倪。
不只是玩梗，这次 AI 有点突破底线
最近，抖音、B 站有不少「雷军骂人」的视频，其实都是网友用 AI 克隆了雷军的声音整活，文案的套路很类似，大概都有三个特点。
这是恶搞
开头直抒胸臆，言明身份，「大家好，我是雷军」。
这是恶搞
话题百无禁忌，打篮球、打麻将、打游戏不爽了，假期不知怎么就过完了，都借 AI 雷军之口吐槽和锐评。除了骂人，还口出狂言，说要投资几十个亿给某某大学。更过分者，用虚假信息抹黑品牌形象，比如用小米手机看黄片。
这是恶搞，相关搜索很有意思
语气温和但脏话不断，和雷军本人形成反差，一口一个老子、畜生，问候他人母亲，甚至造谣式威胁，声称远程控制小米手机自爆、用小米 su7 撞人。
这是恶搞
还有脑洞清奇的网友，用 AI 伪造雷军回应，前面画风正常，澄清事实，夸网友有才，让大家谨慎辨别，像雷军会说的话，后半段转折，图穷匕见，继续口吐芬芳，让人猝不及防。
雷军本人已经知道了被 AI 恶搞的事情，在小米 su7 锁单的微博评论区被网友提问时，回了三个感情色彩鲜明的 emoji。
小米集团公关部总经理王化同样在评论区答复网友，已将此事告知小米法务部。
雷军的形象一直比较平易近人，不介意玩自己的梗，入驻 B 站时配上了「成名曲」《Are you OK》，小米甚至推出了 Are you OK 手型的周边，但这次的性质显然不太一样。
玩梗归玩梗，过于低俗，甚至怀揣恶意，就不可取了。
这些视频不仅不强调是 AI，还言之凿凿说自己是雷军，配图用了真人照片，确实是在侵犯名誉权、肖像权、声音权的边缘试探，比起 AI 孙燕姿是否侵权更加明确。
目前在抖音搜索「雷军 AI 配音」，堂而皇之的脏话、造谣、骂街少了，但还是存活了一些「雷军就坐在我身边」的恶搞内容。
更正能量的也有，不得不卷的文旅账号，以「雷军」之口，邀请大家开着小米 su7 自驾，拿小米手机拍照，这难道不应该给雷总转点广告费？
AI 侵权尚且属于新事物，但也有前车之鉴可循。
今年 4 月，全国首例「AI 声音侵权案」一审宣判，明确认定，在具备可识别性的前提下，自然人声音权益的保护范围。可及于 AI 生成声音。
这里有个关键的概念，什么叫可识别性？除了声音的使用情况，本起侵权案还提到了一个接地气的评判标准：相关领域普通听众能否识别。
推广到雷军 AI 配音，这个标准应当也适用，很多视频虽然内容一听就不像雷军的风格，但声音确实和雷军本人相近。
总之，互联网不是法外之地，AI 也逃不过天网恢恢。别说什么技术中立，该承担责任的，还是使用工具的人类自己。
造假简单，但考虑过怎么亡羊补牢吗
AI 雷军声音的大规模传播，也说明了一个事实：克隆声音越来越简单。尽管维权团队出手了，但社交媒体上已经热闹好一阵了。
不像当初让 AI 孙燕姿唱歌要用 SoVITS 训练模型，有点专业门槛，比较考验设备性能，现在让某人说什么话，直接在网站上就能几乎实时生成。
声音克隆网站，有很多用户自行上传的 AI 角色
前段时间，直播头部公司三只羊还没走出「月饼门」，又陷入「录音门」，盖棺论定之后，也是 AI 的锅。
一段疑似三只羊高管的录音内容被曝光，内容拉低下限，涉及到多位高管和主播，但据警方调查，音频内容不实，是用 AI 伪造的。一时间人们无法相信，AI 这么强大了，都能制造酒后言论，把自己送到法制栏目了。
不可信其无，我简单尝试了一个声音克隆网站，注册邮箱即可使用，雷军 AI 声音是其中一个热门选项。
虽然生成的效果有些瑕疵，出现杂音、吞音，音质像电话那头传来的，但几乎实时生成，500 字内免费，语气、语调也比较自然，还要什么自行车？
又一个声音克隆网站
瑞莱智慧算法科学家陈鹏博士告诉 APPSO，之前捕捉我们的声纹信息，需要几分钟、几十分钟的语音，但现在可能半分钟、几十秒，就能捕捉个大概。多接几个骚扰电话，我们的声音或许就泄漏了。
不过，想要更精准地克隆，复制音调等说话风格，比如让郭德纲说英文相声、让霉霉讲中文，仍然需要更多的语料。
但论语料，名人可不缺。海外也发生过 AI 声音造假事件，甚至把主意打到了总统头上。
今年初，美国新罕布什尔州的居民，接到了拜登的自动语音电话，被告知不要在州初选时投票，实际上这段音频是用 AI 工具 ElevenLabs 伪造的，目的就是要干扰选举。
事发几天后，ElevenLabs 拉黑了始作俑者的账户，这位用户承认，克隆拜登的声音，他只花了不到 20 分钟，以及 1 美元。
ElevenLabs 也为此做了些防范措施，包括「No-Go Voices」，禁止用户上传或克隆某些名人和政客的声音。
然而，并不是铁板一块，今年 3 月，404 media 的一位记者发现，只需在上传文件的开头添加一分钟的沉默，就能绕过规则，克隆特朗普和拜登的声音。
也可以用魔法打败魔法，但 AI 检测软件经常拿 AI 生成的音频没办法。
NPR 的记者测试了三个检测软件，结果并不乐观，提交了 84 个样本，表现最好的软件错了 3 题，剩下的一个错了 20 题，一个正确率只有 50% 左右。
AI 雷军声音的事件中，还有一个很有意思的现象：除了在线呼叫法务部，也有网友表示，怎么平台不管一管，反让这种内容流行起来？
网信办 9 月发布的《人工智能生成合成内容标识办法（征求意见稿）》提出，AI 生成合成内容，应当添加显式标识和隐式标识，前者可被明显感知，后者添加在元数据中。
用户添加自主声明
其中，传播内容的平台，应当承担什么责任呢？
一是核验元数据有无隐式标识，如有，应添加显眼的提醒；二是没有核验到隐式标识，但用户声明是 AI 内容，也应该添加提醒；三是，既没有隐式标识，用户也没有声明，平台检测到了 AI 痕迹，同样需要添加提醒。
这次的闹剧就是一个例子，用户没有自主声明，平台的检测也不到位，有的视频标题下方提醒了「疑似使用了AI生成技术，请谨慎甄别」，有的却没检测出来。
上面没标注，下面标注了
今年初，泰勒·斯威夫特被 AI 伪造色情图片，也是名人被 AI 祸害的典型事件，同样反映了补救措施的滞后性。
其中一张图片在被删除前，在 X 存活了 17 个小时，被查看了 4700 万次。
X、Instagram 等社交媒体，除了删除照片，一度不允许搜索霉霉，或者在搜索时发出警告。粉丝们恨铁不成钢，自发「屠广场」，用真实照片保护偶像。
Instagram 对泰勒·斯威夫特的搜索警告
最近几个月，被称为韩国 N 号房 2.0 的大型 Deepfake 事件，闹得人尽皆知。
好消息是，韩国在 10 月 10 日通过了《关于处罚性暴力犯罪的特例法》修正案。
持有、购入、保存或收看 Deepfake 淫秽影像的人员，可被处三年以下有期徒刑或 3000 万韩元（约合人民币 15.75 万元）的罚金。
编辑、散布 Deepfake 淫秽影像的处罚力度，也从之前的五年以下有期徒刑，上调至七年以下有期徒刑。
哪怕只是参与了最终的消费环节，也会被法律惩罚，法律的与时俱进自然叫人拍手称快，但一个无奈的事实是，AI 技术越被广泛地使用，就越难防止被滥用。
当初用 Midjourney 生成的、穿上羽绒服的「时尚教皇」，让有图有真相成了过去时，此情此景，声音、视频也是类似的道理。






请到「今天看啥」查看全文


推荐文章
新浪科技  ·  【#光线传媒源于哪吒2营收约至10.10亿#】光线传媒公告，公司-20250205205023
昨天
新浪科技  ·  【#微信报告春节蓝包首秀#：#微信书籍类送礼单量环比增长超千倍#-20250205143000
昨天
新浪科技  ·  【#小鹏推出5年0利息0首付政策#】 据小鹏汽车消息，新年开工第-20250205105000
昨天
硅星人Pro  ·  DeepSeek爆火后，它的研究员们怎么样了
昨天
微软科技  ·  新年开工Copilot小贴士，总有一个能用上！
2 天前
摄影世界  ·  19场大事件和小故事，19位新华社记者的2016
8 年前
笑点研究所  ·  一起来感受下什么叫吓尿了！
8 年前
巴比特资讯  ·  社区热议SegWit+2MB区块扩容妥协方案，Barry Silbert声称78.3%的算力支持
7 年前
美味书单  ·  【邀请函】2017.5.20，我们要结婚了。
7 年前
三声  ·  知道你们都不想看，但是应该再讨论下《变形金刚5》做错了什么
7 年前
Sov5搜索   ·   小百科   ·   今天看啥   ·   移动版
51好读 - 好文章就要读起来!