최근 인공지능 딥페이크(Deepfake)기술을 악용한 허위 영상물이 온라인을 통해 유포되면서 디지털 성범죄 피해의 우려가 증가하고 있다. 팁페이크 기술을 악용한 범죄는 심각한 피해를 낳고 있다.
허위 동영상물을 제작하거나 유포하는 행위는 법적 규제 대상에 해당하며, 개인의 명예 훼손, 사생활 침해, 개인정보 보호법 위반 등과 관련된 법적 처벌을 받을 수 있다.
또한, 단순히 이를 게시하거나 유포하는 행위 및 피해자와 가해자의 신상 정보를 유포하는 행위만으로도 심각한 문제가 될 수 있다.
피해자나 인지한 자는 신고를 ...
특정인의 초상(얼굴)과 성적 이미지를 합성한 정보 또는 합성 제작을 제안·요청하는 권리침해는 방송통신심의위원회 디지털 성범죄 신고 : 국번없이 1377 (3번) 또는 신고페이지-경찰청 사이버범죄수사과 : 긴급신고 112, 민원상담 182 또는 홈페이지 –디지털성범죄 피해자지원센터 : 02-735-8994 또는 홈페이지.
인공지능(AI) 기술을 이용해 제작된 가짜 동영상 또는 제작 프로세스 자체
딥페이크(deepfake)는 딥러닝(deep learning)과 페이크(fake)의 합성어다. 적대관계생성신경망(GAN: Generative Adversarial Network)이라는 기계학습(ML) 기술을 사용하여, 기존 사진이나 영상을 원본에 겹쳐서 만들어 낸다.
2017년 미국 대형 온라인 커뮤니티 ‘레딧’에 올라온 합성 포르노 영상을 딥페이크 시초로 본다.‘Deepfakes’라는 아이디를 쓰는 이용자가 오픈소스 소프트웨어(SW) 텐서플로(TensorFlow)를 활용해서 유명 연예인과 포르노를 합성한 영상을 올렸다.
이후 ‘FakeApp’이라는 무료 SW가 배포되면서 초보자도 쉽게 딥페이크 영상을 만들어 올리기 시작하였다.
기술이 고도화되면서 점차 진짜와 구분하기 어려운 수준까지 발전하였다.
딥페이크 기술은 많은 윤리 논쟁을 촉발하였다. 위조 포르노로 피해자가 늘고 있다는 점이 가장 큰 우려를 사고 있다. 갤 가돗, 엠마 왓슨 등 미국 할리우드 유명 여배우들이 딥페이크 포르노 영상으로 많은 피해를 입었다.
아시아지역에서는 한국 케이팝 가수들을 타깃으로 하고 있다. 사이버 보안 연구회사 딥트레이스의 보고서에 따르면, 2019년 유통되고 있는 딥페이크 영상 1만 4,698점 가운데 96%는 포르노로 소비되었다. 얼굴 합성 피해자는 미국·영국 여배우가 46%, 한국 케이팝 가수가 25%로 많은 비중을 차지하였다.
딥페이크 가짜뉴스로 인한 위험성도 제기된다. 유명 정치인의 얼굴을 합성한 딥페이크 연설 영상은 텍스트로 된 가짜 뉴스와 비교하면 파급력이 더 클 것으로 예상한다.
조던 필 영화감독은 버락 오바마 전 미국 대통령이 “트럼프는 천하에 쓸모없는 놈”이라고 말하는 딥페이크 영상을 만들어 공개하였는데 이것은 딥페이크 기술이 내포한 위험성을 사람들에게 알리기 위한 목적이었다.
