任何人都可能成为受害者！“AI深度伪造”性犯罪席卷韩国，受害者通过他国社交媒体求助

近日，韩国社会深陷于“deepfake”带来的性犯罪阴影。“deepfake”即深度伪造，意指利用他人照片和视频制作非法内容。其最常见的方式就是AI换脸技术，此外还包括人脸合成、视频生成等。

韩国警方发现大量用户在社交媒体群组中传播利用该技术换脸合成的色情照片和视频，参与用户多达22万人，其中受害者80%为女性（约30%受害者为未成年人，受害者学校分布图如下），犯罪活动已经在初高中生等未成年人、大学生、教师和士兵等群体中蔓延。 在此过程中，若新用户想加入群组，需自行提供新的女性照片供加害者生成更多新的视频。 另外，加害者还会公布受害女性的身份，威胁受害者，索要钱财。

韩联社指出，虽然韩国现行法律对“deepfake”性犯罪已有明确处罚规定，但由于“deepfake”性犯罪视频的主要传播途径为服务器在海外的群组，因非境内企业，难以通过法律加以管控。 因此，许多韩国女性正通过他国社交媒体发布求救信息。

更令人担忧的是，这种新型性犯罪正在初高中校园等未成年人群体中快速传播：这些虚假的照片视频多是由青少年制作的，而韩国的法律对于这些过于年轻的“犯罪者”而言无法给予对等的惩罚，恶作剧成为了掩盖犯罪的托词。

对此，韩国政府及在野党呼吁加强警方调查并立法应对这类性犯罪。 由于现行法律难控海外传播，政府拟设合作热线，与海外通讯软件合作打击。

导读系本公众号原创，转载请注明文字出自本公众号。