여돌, 남돌 딥페이크 논란. 딥페이크란?

딥페이크는 연예인이나 정치인, 운동선수 등 특정 인물의 얼굴을 AI 기술을 활용하여 합성을 한 영상을 말합니다. 딥러닝(DEEP LEARNING)과 거짓(FAKE)의 합성어인데 미국에서 한 네티즌이 헐리우드 배우의 얼굴을 포르노에 합성해서 올리면서 시작이 되었습니다.

 

여성 연예인을 대상으로 한 딥페이크 영상을 처벌해달라는 청와대 청원. 1월 14일 현재 34만명 이상이 청원에 참여하고 있다.

우리나라도 암암리에 여돌이나 남돌의 얼굴을 딥페이크를 이용해 성적인 영상에 합성을 하는 등의 일이 일어나고 있는데요.  최근 알페스라고 남자 아이돌이나 정치인 등을 대상으로 성적 대상화 하여 작성한 소설인데 최근 그것을 금지해달라는 청원이 청와대에 올라가며 논란이 되고 있습니다.

* 딥페이크가 무엇인지는 아래 중간중간 올린 움짤을 참고해주세요. 이런식의 재미있는 건 좋지만... 성적 대상화는 좀 문제인 것 같습니다.

 

즐라탄과 닮았다는 신현준을 실제로 즐라탄과 합성한 딥페이크 영상

이렇게 알페스가 논란이 되자 뒤이어 여성 연예인을 대상으로 한 딥페이크를 처벌해달라는 청원이 올라왔는데요.

처음 딥페이크가 나타나고 AI기술이 더욱 발전하면서 딥페이크 영상 제작이 쉬워지니 유명 여성이나 남성을 대상으로 딥페이크 영상을 제작하고, 뒤에서 돌려보는 부적절한 일이 발생하는 등의 문제가 일어나고 있습니다.
특히 팬덤이 강한 여돌이나 남돌을 대상으로 딥페이크 영상을 만드는 경우가 많고, 그 숫자는 급격히 증가하고 있어 사회문제로 대두되고 있습니다.

 

트럼프와 김정은 얼굴을 바꾼 딥페이크 사진

딥페이크는 온라인에 공개된 소스코드와 알고리즘으로 쉽게 제작이 가능하고, 위에 적은 것 처럼 그 기술이 더 발전하면서 이제는 딥페이크인지 진짜 본인인지를 구별하기 어려울 만큼 정교해졌습니다.
그리고 익명성이 각종 성인커뮤니티나 SNS를 통해 영상을 제작해서 올리고 계정을 삭제해버리면 제작자를 찾기가 어려워 손쉽게 이러한 행위를 해버리는 문제가 있습니다.

 

김병세 합성 딥페이크 영상

특히 피해를 당한 사람이 신고를 하지 않으면 수사조차 진행이 어렵게 됩니다.

사회가 발전하면서, 그 동안 대두되지 않던 새로운 문제들이 일어나고 있는데요.
적절한 법이 만들어져 불법적 행위에 대해서는 강력한 처벌이 뒤따라 피해자가 양산되지 않아야 한다고 생각합니다.