近期，韩国涌现了大量深度伪造（deepfake）性犯罪事件，参与者运用人工智能技术将真实人脸与虚假身体进行合成，制作性剥削影像，并通过通讯平台Telegram群组进行传播。这一现象迅速引发大量抗议，越来越多韩国女性站出来指责性暴力，并扩散至海外社交媒体，有人称之为第二次“N号房事件”。
此次事件最初由社交媒体X的账户“Queen Archive”带入公众视野，该账号运营者在接受《朝鲜日报》采访时表示，发布最初的信息以后，她收到了大量相似的报告，“我每分钟就能收到8条消息，持续了一整晚”，并且这些消息都“令人心碎”。据披露，这些群组中存在大量女性裸照，还有针对某个特定受害者的羞辱房间，分享她们的个人信息和深度伪造视频，“超过一千名参与者联系了受害者，并通过分享她们的反应来进一步折磨她们。”几乎所有的受害者都是女性，一些受害者甚至是参与者的母亲、姐妹、表亲和熟人。在她公开其中的部分群组后，这些群组很快就被删除了。
图片来源：视觉中国
此类性犯罪在今年出现激增，韩国警方称，今年前七个月共报告案件297起，高于去年全年的180起，几乎是2021年案件数的两倍。据透露，绝大多数犯罪者都是青少年和20多岁的年轻人。但有人认为真实数据远高于此，有韩国媒体发现，某个制作与传播深度伪造色情内容的Telegram群组有大约22万名成员。
性犯罪的受害者包括了未成年学生、教师、军人等不同群体。《韩民族日报》调查发现，此类群组中存在大量对于女性大学生和高中生的深度伪造内容。在社交媒体X上，有学生自发创建了一份深度伪造受害学校清单，涉及超过500所学校。韩国教师联盟在本周发表声明称，确有部分学生成为深度伪造的受害者，已要求教育部进行调查。此外，军队性虐待受害者保护组织也指出，女性军人同样是深度伪造性犯罪的重要目标。
韩国总统尹锡悦于本周二做出回应，呼吁彻查网络性犯罪。他在声明中指出：“这是依赖于匿名保护的技术滥用，是明显的犯罪行为。”作为韩国官方媒体监管机构，韩国通讯标准委员会也宣布将召开会议，讨论应对深度伪造性犯罪的措施。
N号房事件主要调查者、曾任韩国共同民主党临时党魁的朴志玹在社交媒体X写道，“深度伪造的性侵材料可以在一分钟之内制作完成，任何人都可以不经任何验证进入这些聊天室。而这样的事件正发生在全国的中学和大学里。”她直言，政府需要宣布“国家紧急状态”来应对深度伪造色情的泛滥。女权活动者裴福珠也指出，很多受害者甚至常常处于不知情的情况，这是结构性的性别歧视，而不仅是“个人纠纷”。
这种结构性歧视被认为与近年愈发流行的Incel（Involuntary celibate，非自愿独身）文化相关联，由于社会孤立以及性别动态的变化，部分独身男性形成了强烈的厌女与暴力倾向。有文章指出，这些参与深度伪造的男性想要通过羞辱现实生活中无法接触的女性而获得快感，他们通常没有意识到自己行为的犯罪性质。这种情绪得到了韩国政客的迎合——在2022年的政府选举中，现任总统尹锡悦就曾提出要废除女性家族部，他认为女性主义正在伤害“健康的男女关系”，这场选举也被部分媒体称为“Incel选举”。
也有人指出，飞速发展的信息技术在某种程度上助长了数字性犯罪的爆发，并加剧了一种无处不在的性骚扰文化。例如在2020年的“N号房事件”中，微型摄像头为大量偷拍视频提供了条件，在深度伪造性犯罪中更是如此。在这两次事件中，通讯平台Telegram都因包庇性犯罪而饱受批评。
就在上周六，Telegram的创始人帕维尔·杜洛夫（Pavel Durov）在法国被捕，据巴黎检方透露，杜洛夫的被捕是大范围调查的一部分，该调查涉及一系列平台协助犯罪的潜在指控，包括持有并传播儿童性虐待影像、贩毒、洗钱等。据《纽约时报》报道，法国当局曾要求Telegram协助调查一起涉及儿童性虐待材料的案件，帮助识别其中一名用户的身份，而Telegram并没有回应这一要求。
当地时间2024年8月28日，法国巴黎，Telegram的创始人兼首席执行官帕维尔·杜罗夫离开巴黎法庭。（图片来源：视觉中国）
这一事件加剧了长期以来有关互联网言论自由以及科技公司责任的争议：科技公司高层是否要为平台上发生的事负责？在过去，互联网平台通常无需对平台中的言论负责。但最近几年，各国政府，尤其是欧盟国家，正在持续向科技公司施压，要求解决平台中的儿童安全、恐怖主义、虚假信息等有害内容的传播。英国去年通过了一项法规，如果科技公司高层知晓存在危害儿童安全的内容却未能系统性地移除，将会追究其个人责任。另一方面，有人将杜洛夫视为维护言论自由的民间英雄，并对其被捕提出担忧，马斯克就在一条推文中表示，“杜洛夫在巴黎被捕后，我是否也应该对飞往欧洲感到担忧？
