BizOn

"설마 내 사진도..?" AI를 이용한 딥페이크 음란물 유포 비상

텔레그램 속 악의 움직임은 어디서 비롯되었나

딥페이크(Deepfake)란 인공지능(AI)을 이용해 특정 인물의 얼굴이나 신체를 다른 영상에 합성하는 기술이다. 해당 기술은 원래 영화, 광고, 학술 연구 등의 분야에서 유용하게 활용되었으나, 최근 이를 악용한 범죄가 급증하며 심각한 신흥 사회 문제로 급부상하고 있다. 특히, 딥페이크 기술을 이용한 음란물 제작 및 유포가 성행하고 있으며, 유포 경로 중 하나로 텔레그램과 같은 암호화 메신저가 주로 이용된다. 텔레그램은 강력한 암호화와 익명성을 보장해주는 플랫폼으로, 사용자들이 서로의 신원을 숨긴 채 파일을 자유롭게 주고받을 수 있다. 이러한 특성은 범죄자들이 법망을 피하고 불법 행위를 저지르는 데 좋은 도구로써 악용되고 있다. 최근 국내에선 이를 악용한 딥페이크 음란물 유포 사건이 연이어 발생하며 사회적 우려가 커지고 있다.

▲  지난 6일 서울 종로에서 열린 텔레그램 딥페이크 성폭력 대응 긴급집회(출처: 연합뉴스)

피해자부터 피의자까지, 딥페이크에 노출된 청소년들

국내에선 딥페이크 기술이 악용되어 생성된 음란물이 텔레그램을 통해 빠르게 퍼지며 심각한 사회 문제로 부상하고 있다. 더불어 피해 대상이 유명 연예인뿐만 아니라 일반인에게까지 확대되면서 문제의 심각성은 더욱 커지고 있다. 관련 범죄죄 피해자들은 자신이 의도하지 않은 방식으로 조작된 영상을 통해 심각한 정신적 고통을 받고 있으며, 일부 피해자는 사회적 지위와 평판을 잃고 극단적인 선택을 고려하기도 한다. 

이에 대응해 최근 경찰은 딥페이크 음란물을 제작하고 유포한 다수의 피의자를 체포했으며, 체포된 피의자 중 10명 중 8명이 10대 청소년으로 밝혀져 큰 사회적 파장을 일으켰다. 딥페이크 기술을 손쉽게 사용할 수 있는 무료 애플리케이션과 웹사이트가 늘어나면서 범죄 행위가 더욱 대중화되고 있다는 점이 청소년의 범죄 행위를 부추기는 점으로 꼽힌다. 과거에는 고도의 기술과 장비가 필요했지만, 이제는 몇 번의 클릭만으로도 누구나 딥페이크 영상을 만들 수 있는 시대가 도래하여  대한민국이 딥페이크 범죄의 온상으로 노출되고 있다는 우려 또한 제기되고 있다.

SNS 계정까지 삭제... 딥페이크는 어디까지 뻗어있나

국내 10대 청소년들의 '인스타그램' 사용 시간은 '카카오톡'의 약 두 배에 달하며, 2024년 6월 기준 9411만 시간을 기록했다. 2021년에 등장한 '릴스'는 짧은 영상으로 강력한 재미를 제공하며, 청소년들이 해당 앱에 더 오래 머무르게 만들었다. 저마다 나만의 계정을 일구던 것도 잠시, 인스타그램은 최근 딥페이크 범죄의 표적이 되었다. 10대 청소년들이 가장 자주 사용하는 앱인 만큼 접근성이 높고, 사용자 대부분이 자신의 얼굴 사진 하나 쯤은 게시하기 때문이다. 이에 청소년들은 자신의 계정을 비공개로 전환하거나 아예 삭제하는 등, 딥페이크 범죄에 대한 불안감을 드러내고 있다. 이는 ‘딥페이크 피해 학교 명단’ 공개로 더욱 박차를 가했으며, 필자가 졸업한 고등학교도 이 명단에 포함되면서 딥페이크 문제는 더 이상 '남의 일'이 아닌 '우리 모두의 문제'로 인식되고 있다.

딥페이크 처벌은 어떻게 이루어지나

그렇다면 신종 디지털 성범죄, 딥페이크 피의자는 어떤 처벌을 받을까? 타인의 동의 없이 허위 영상물을 제작하거나 유포하는 행위는 초상권 침해, 명예훼손, 성범죄에 해당하는 엄연한 범죄행위로, 5년 이하의 징역 또는 5천만 원 이하의 벌금형에 처해질 수 있다. 하지만, 모든 딥페이크 피의자가 이 같은 처벌을 받는 것은 아니다. 딥페이크 처벌 조건은 개개인의 주관적인 판단이 아닌 법률 전문가의 판단에 근거하기 때문이다. 

피해자 일부의 극단적 선택이 더 이상 ‘일부’의 일이 아닐 수도 있다. 딥페이크 피의자를 처벌하는 데 가장 중요한 잣대는 전문가의 판단에 그치는 것이 아닌 피해자의 시선에서 그들의 내일을 내려다보는 것이다. 빠르게 번져가는 딥페이크 음란물, 신속히 관련 범죄 처벌을 강화하고 피해자를 보호하는 것만이 텔레그램 속 악의 움직임을 근절할 수 있다.

기자 조원우(21), 기자 최연수(23)

BizOn Online Newsletter Vol.77 (2024.09.)