지난 8월, 딥페이크 성범죄 문제가 수면 위로 드러나며 우리 사회에 적잖은 충격을 안겼다. 딥페이크 기술을 사용한 허위 음란물이 텔레그램 내에서 지역·학교별로 불법 합성 성범죄물이 공유되고 있으며 그 가입자 수가 최소 22만 명이 넘는 것으로 알려졌다.
가해자들은 연령대, 직업별로 세분화해 불법합성물을 대량 생산했다. 교사, 간호사, 군인 등을 포함해 심지어 가족이 대상이 되기도 했다. 범행방식은 주로 가해자가 피해자의 신상을 전송하면, 다른 가해자가 보낸 사진과 음성을 기반으로 불법합성물을 제작해 공유하는 방식이었다.
대학가에서도 딥페이크로 인한 피해가 심각했다. 텔레그램 내 ‘대학 겹지인 채널’로 불리는 단체 대화방의 운영이 확인된 것이다. 해당 채널의 참가자는 1200명에 달하며 전국 70여 개 대학 이름을 딴 개별 대화방이 존재하는 것으로 파악됐다. 해당 사건이 보도된 이후로 많은 여학생이 개인 SNS 계정을 비공개로 전환하고 사진을 삭제하는 등 조치했으나 현재까지도 불안감을 숨길 수 없는 상황이다.
◆ 딥페이크 기술 발전과 동시에 증가하는 범죄율
딥페이크란 인공지능 기술을 이용해 만든 가짜 이미지나 영상물. 새로운 사진이나 영상을 원본 사진, 영상에 겹쳐 만들어 내기 때문에 진위 여부를 가릴 수 없을 정도로 정교한 것이 특징이다. 기술에 대한 접근성이 높고 사용이 간편해 누구나 쉽게 활용할 수 있다.
문제는 딥페이크 기술의 발전과 함께 관련 범죄율도 증가하고 있다는 것이다. 경찰청에 따르면 2021년부터 2023년까지 사이버 성폭력으로 검거된 7530명 중 딥페이크 범죄자는 254명(3.4%)에 달한다. 같은 기간 딥페이크 범죄 건수는 156건에서 180건으로 증가 추세를 보였다. 지난달 11일 경찰청은 “전국적으로 513건의 딥페이크 성범죄 사건을 수사 중이며, 올해 1월부터 9월 10일까지 총 318명의 딥페이크 성범죄 피의자들을 검거했다”고 밝혔다.
성폭력범죄의 처벌 등에 관한 특례법(이하 성폭력처벌법)에 따르면 딥페이크 성착취물 제작자는 5년 이하의 징역 또는 5000만 원 이하의 벌금에 처한다. 그러나 실제 처벌로 이어지는 사례는 많지 않다. 가해자와 피해자의 상당수가 10대 청소년이며, 14세 미만인 촉법소년인 경우도 많아 처벌에 어려움이 있기 때문이다.
◆ 딥페이크 성범죄의 통로가 된 ‘텔레그램’
딥페이크 불법합성물 유포 통로로 메신저 어플리케이션인 ‘텔레그램’이 지목됐다. 텔레그램은 강력한 암호화 기술을 사용해 메시지가 제3자에 의해 열람될 수 없는 구조다. 비밀 대화의 경우, 자동 삭제 기능까지 지원해 불법 콘텐츠 유포의 온상이 되고 있다.
또한 텔레그램은 오픈 소스 모바일 메신저로 사용자에게 프로토콜, API 및 소스 코드를 공개하고 있다. 소스 코드란 프로그래밍 언어로 작성된 글로, 프로그램의 기능과 동작을 설계하고 구현할 때 필요하다. 이를 공개해 누구나 텔레그램 내 기능을 자유롭게 수정하거나 배포할 수 있게 만든 것.
이번 사태 또한 텔레그램의 오픈 API를 자유롭게 개조해 만든 봇(bot)으로 딥페이크 음란물을 자동으로 합성하는 경우가 존재했다. 경찰청은 올해 7월까지 국외 IT 기업에 5161건의 자료 요청을 했으나 텔레그램으로부터는 단 한 건의 협조도 받지 못했다. 이러한 텔레그램의 비협조적 태도가 수사 지연의 원인으로 지목되고 있다.
◆ 딥페이크 성범죄 OUT 공동행동 말하기대회 현장
딥페이크 성범죄 사태 해결과 성차별적 사회 구조 변화를 위해 여러 대학 자치단체 및 소모임들이 힘을 모았다. 서울여성회와 서울여성회 페미니스트 대학생 연합 동아리(이하 서페대연), 서울지역대학 인권연합동아리(이하 인동) 등은 ‘딥페이크 성범죄 OUT 공동행동’을 창설하고 매주 금요일 오후 7시 강남역 10번 출구 앞에서 ‘딥페이크 성범죄 OUT 말하기 대회’를 개최하고 있다.
<삼육대신문>은 딥페이크 성범죄를 규탄하고 사태 해결에 앞장서고 있는 청년들을 만나기 위해 지난달 27일 ‘딥페이크 성범죄 OUT 말하기대회’ 5회차 현장을 찾았다.
박지아 서울여성회 성평등센터장의 여는 발언으로 말하기대회가 본격적으로 시작했다. 박 센터장은 “디지털 성범죄가 계속되고 있으나 정부의 대응이 실패로 이어졌다”고 비판했다.
서울여성회 소속 20대 청년 이수정 씨는 “딥페이크 관련 법안이 마련됐으나 소수의 가해자만 처벌받고 있는 현실 등 여전히 미비한 점이 많다”라고 지적하며 “문제를 제대로 뿌리 뽑을 때까지 정부와 국회가 어떻게 하는지 계속해서 지켜보고 목소리를 내야 한다”라고 주장했다.
이어 마이크를 잡은 대학생 라미수 씨는 “국가는 피해자의 권익 보호와 성범죄 예방에 대한 책임을 다해야 한다. 슬퍼하고 두려워하는 것은 피해자가 아니라 가해자임이 당연한 날이 오길 바란다”라고 발언했다.
심규원 서울지역대학 인권연합동아리 건국대 지부장은 “대학과 교육부는 피해자 지원 및 신고 시스템을 구축하는 데 소홀하다. 교육부 긴급 조직 TF에서도 대학생 피해자에 대한 대안이 없다”면서 지원 시스템 구축을 촉구했다.
이후 딥페이크 성범죄 방지법의 문제점을 규탄하고자 관련 키워드들을 해방의 쓰레기통에 집어넣는 퍼포먼스를 이어갔다.
딥페이크 성범죄 해결법에 대한 의견을 듣기 위해 <삼육대신문>은 현장에 참여한 대학생들과 인터뷰를 나눴다.
덕성여대 페미니즘 준동아리 FM419에서 활동 중인 양모 씨는 “딥페이크는 범국가적으로 문제가 되는 사안이다. 따라서 교육부나 정부 등 국가 기관에서 먼저 나서야 개인 또한 문제 해결에 동참할 수 있다”며 사회적 책임 강화의 필요성을 언급했다.
심규원 지부장은 딥페이크 성범죄 문제 해결을 위해서는 “단순히 처벌을 강화하는 것뿐 아니라 성차별적 사회 구조의 개혁이 필요하다”고 강조했다. 그는 “딥페이크 범죄가 근 한 달간 대대적으로 보도가 됐으나 대학사회의 반응은 아직 미약한 편”이라며 “몇몇 대학생 단체와 개인들이 목소리를 내고 행동하며 사회 문제를 개혁하고자 한다”고 밝혔다. 이어 딥페이크 범죄 규탄 관련 집회, 토론회, 집담회 등에 대한 대학생들의 적극적인 관심과 참여를 당부했다.
◆ 딥페이크 성범죄 예방을 위한 움직임
전 세계적으로 AI 기술의 상용화가 장려되는 가운데, 딥페이크 기술의 사용을 막는 것은 현실적으로 어렵다. 그러나 딥페이크 기술로 인한 피해를 조금이라도 줄여 건전한 AI 시장을 만드려는 움직임이 나오고 있다.
인텔 등 다양한 기술사에서는 고급 AI 알고리즘을 기반으로 한 탐지 기술을 사용해 딥페이크 콘텐츠물을 감지할 수 있는 AI를 공개했다. 비가시성 워터마크 기술 또한 딥페이크 합성을 방해할 수 있다. 딥페이크는 원본 콘텐츠를 학습해 합성하는 방식으로 이뤄진다. 따라서 비가시성 워터마크를 삽입하면 원본 이미지를 해치지 않으면서 이미지를 편집하거나 가공해도 훼손되지 않아 학습 방해에 효과적이다. 국내 기업인 카카오 또한 자사 AI 이미지 생성 모델 ‘칼로’에 해당 기술을 도입해 허위 조작 정보 유통을 방지하고 있다.
한편, 딥페이크 성범죄 피해를 당했다면 전문 기관의 도움을 받을 수 있다. ‘디지털성범죄피해자지원센터’와 ‘서울디지털성범죄안심지원센터’를 포함한 25개의 기관에서는 디지털 성범죄 피해자들을 대상으로 상담, 성착취물 삭제 지원, 법률 연계 등의 무료 지원 서비스를 제공하고 있다.
정지원 기자<jiwon0413n@gmail.com>
저작권자 ⓒ 삼육대 신문사 무단전재 및 재배포 금지
