最近，视频技术的进步在韩国引发了一些令人担忧的现象。越来越多的年轻人利用深度伪造技术，在未经他人同意的情况下，拍摄他人的性照片，受害者往往是他们的同龄人。
根据一份最新报告，去年与深度伪造图像相关的刑事案件达到了180起。执政党国民力量党议员赵恩熙利用警察厅提供的数据编写的报告显示，在因这些罪行受到处罚的120人中，有91人是青少年。自2022年的156起案件以来，与深度伪造相关的犯罪数量持续上升，青少年在这些犯罪中受到惩罚的比例也在增加。2022年，61%的被定罪者是青少年，而到2023年，这一比例上升至75.8%。
赵院长指出：“对受害者造成不可挽回伤害的数字性犯罪在青少年中如同游戏般扩散。”他呼吁应进行系统性的修改，以防止此类犯罪的发生。
深度伪造犯罪的蔓延
最近，釜山市教育厅表示，警方正在调查四名中学生，他们利用深度伪造技术对18名学生和两名教师进行数字克隆，制作了约80张受害者的色情图片，并通过移动通讯应用程序分享。去年，釜山地区发生了12起学生传播同学色情照片的事件，而仅在今年上半年就发生了15起。
在济州岛，警方最近在一所国际学校抓获了一名十几岁的学生，他利用同学的脸制作深度伪造的色情作品，至少有11名学生被发现受害。
深度伪造犯罪的形式多种多样。有时这些图片用于欺负受害者，有时则用于牟利。2022年，一名高中生因在网上向110人出售色情内容（包括伪造的真人照片）而被判有罪。
为性虐待受害者提供咨询服务的国有向日葵中心的官员表示，利用深度伪造技术的性犯罪形式多样。该中心的一名官员告诉当地媒体，尽管绝大多数案件涉及男学生伤害女学生，但也有男生伤害其他同性学生的情况。
韩国青少年对人工智能服务的接触非常普遍。日本国家信息社会局在今年5月发布的一项针对2261名青少年的调查显示，约77.5%的青少年表示他们知道生成式人工智能，超过一半（52.1%）的青少年表示他们实际使用过它。生成技术本身可以用于创建各种图像、文字内容和音乐，并且是许多行业使用的工具。然而，正如上述数据所示，精通科技的韩国青少年很少将其用于非法目的。
然而，任何工具如果落入不法之手，都可能造成伤害，公众对滥用这些技术的潜在后果日益担忧。
对人工智能技术使用的担忧
尽管越来越多的青少年因使用深度伪造技术而受到惩罚，但很少有人受到严厉的惩罚。这部分是因为未成年人通常受到的惩罚较轻。根据《性犯罪等处罚特别法》第14条第1款的规定，成年人对他人的视频、音频、照片等虚假内容进行处理或编辑，造成性耻辱并有意传播的，将被处以5年以下有期徒刑或5000万韩元以下罚款。
然而，《韩民族日报》最近报道称，实际处罚远比法律所规定的宽松。该报分析了46件与假视频相关的法院判决书，结果显示，仅因传播假视频而被起诉的18人中，只有1人被判处有期徒刑，15人逃脱，缓期执行，2人被处以罚款。
在一个案例中，一名年轻男子伪造了他十几岁的表弟的照片，并将其分享到手机聊天工具上，最初被判处两年监禁，但上诉法院将刑罚减为缓刑。法院在判决书中指出，被告年轻且没有犯罪记录，其父母承诺将引导他远离犯罪。
该法律还规定，犯罪者必须具有传播目的，这使得拥有深度伪造色情内容的人处于法律的灰色地带。因此，刑事专家强调，政府应加强对学生的教育，以确保他们意识到犯罪的严重性。
京畿大学犯罪心理学教授李秀贞在接受当地媒体采访时表示：“编程等计算机技术课程必须涵盖技术的法律和伦理方面。”她强调，这种教育应尽早开始，因为年龄较小的孩子更容易将此类犯罪误认为恶作剧。
发表评论