[와파레터]딥페이크, 성범죄 도구로 전락하다

9월 1주차 #딥페이크 #텔레그램 #성범죄

2024. 9. 1.

웹에서 보기│2024. 9. 2(173호)

안녕하세요. 서진욱 기자입니다.

이번 뉴스레터에서는 최근 공분을 일으킨 텔레그램 딥페이크 성범죄 사태를 다뤘습니다. 이번 사태를 계기로 인공지능(AI)이 적용된 딥페이크 기술을 악용한 성범죄가 한국 사회에 만연한 현실이 드러났는데요. 4년 전 텔레그램 N번방 사건을 겪었음에도 제대로 개선 조치를 취하지 못한 결과라는 비판이 나옵니다.

이제라도 AI 기술을 악용한 범죄에 철저한 대비책을 세워야 한다는 목소리가 커지는데요. 딥페이크에 대한 법적 정의조차 없는 상황이기 때문에 상당한 난항이 예상됩니다. 사이버 망명지인 동시에 무법지대로 여겨지는 텔레그램에 어떤 조치를 취해야 할지도 논쟁의 대상이 될 전망입니다.

※와이파이레터는 쏟아지는 ICT 이슈 중 핵심만 꼽아드립니다. '테크 빅뱅' 시대를 살아가는 당신의 길잡이가 되겠습니다. 주소록에 shineway2011-gmail.com@send.stibee.com을 추가해 주세요. 뉴스레터가 스팸함으로 가지 않아요. 콘텐츠 문의와 협업 제안은 언제든 환영합니다.

텔레그램 딥페이크 성범죄 사태 일파만파
늘어가는 피해 규모… 경찰 수사 난항 전망
N번방 사건 겪고도 달라진 게 없다
AI 워터마크 등 규제 기반 확립될까?

텔레그램을 통해 운영되는 딥페이크 봇.

📶텔레그램 딥페이크 성범죄 사태 일파만파

텔레그램 딥페이크 성범죄 사태가 대한민국을 뒤흔들고 있습니다. 대학교뿐 아니라 초중고교까지 딥페이크 성범죄가 만연한 것으로 드러나 충격을 안겼습니다. 수년 전부터 연예인, 정치인 등 유명인 대상 딥페이크 악용 사례가 논란이 됐는데요. 일반인을 타깃으로 광범위한 딥페이크 성범죄가 공론화 건 처음입니다. 같은 학교를 다니는 친구와 교사 심지어 가족의 딥페이크 성착취물을 생성하고 유포한 사례까지 드러났습니다. 이번 사태를 보도한 여기자들도 피해를 입은 것으로 알려졌죠.

러시아 모바일메신저 텔레그램(현재 본사는 두바이)은 2020년 불거진 N번방 사건 때처럼 디지털 성범죄의 도구로 활용됐습니다. 인스타그램, 페이스북 등 소셜미디어에서 지인의 사진을 확보한 뒤 텔레그램 채팅방에서 운영되는 AI(인공지능) 봇을 통해 딥페이크 성착취물을 생성하는 방식인데요. 1000원도 안 되는 대가를 지불하면 수 초 만에 딥페이크 사진이 만들어집니다. 대부분 봇은 해외에서 운영되고, 가상자산에 기반한 수익 구조라서 추적이 불가능합니다. 참여자가 40만명에 육박하는 딥페이크 봇 채팅방도 존재하는 것으로 파악됐습니다. 이들의 국적이나 성착취물 생성 여부는 확인할 수 없죠.

이렇게 생성된 딥페이크 성착취물은 텔레그램을 통해 무분별하게 유포됐습니다. 지인뿐 아니라 불특정다수가 참여하는 수많은 채팅방에서 성착취물 공유가 이뤄졌는데요. 겹지인방, 능욕방 등으로 불린 채팅방에 1000~2000명이 참여하면서 지역, 학교 등으로 구분된 하위 채팅방이 운영되는 경우도 있었습니다. 특정인의 성착취물만 올리는 채팅방까지 생성되기도 했죠. 채팅방에 참여한 가해자들은 피해자에게 성착취물과 조롱을 담은 DM(다이렉트 메시지)을 보내는 악행까지 벌였습니다. 대규모 채팅방 생성과 폐쇄가 반복된 점을 보면 성착취물 공유를 주도한 세력이 존재한 것으로 추측됩니다.

📶늘어가는 피해 규모… 경찰 수사 난항 전망

이번 사태로 인한 정확한 피해 규모는 파악되지 않았습니다. 교육부가 지난달 27일까지 파악한 피해자는 학생 186명(초 8명, 중 100명, 고 78명)과 교원 10명이었는데요. 전국교직원노동조합이 실시한 실태조사에서는 직·간접 피해가 517건 접수됐습니다. 아직 자신의 성착취물 생성 여부를 인지하지 못한 피해자가 상당할 것으로 예상되는데요. 경찰청이 7개월간 딥페이크 성범죄 특별 집중단속에 들어갔기 때문에 피해 규모는 훨씬 더 커질 수 있습니다.

가해자를 특정하는 경찰 수사가 난항을 겪을 것이란 우려가 나옵니다. 서버가 해외에 있는 텔레그램이 사용자 개인정보 제공이 불가피한 수사에 협조하지 않을 가능성이 높기 때문이죠. 보안성이 뛰어난 텔레그램은 불법 행위를 포착하더라도 해당 계정을 추적하기가 상당히 어렵습니다. 서버를 여러 국가에 분산해뒀고, 주기적으로 서버 위치를 옮기는 것으로 알려졌기 때문이죠. 경찰은 N번방 사건 수사 당시 텔레그램에 7번이나 협조 공문을 보냈지만, 텔레그램은 회신하지 않았습니다.

N번방 사건은 가해자들이 불법 성착취물을 사고판 돈의 흐름이 단초가 됐지만, 이번 사태의 경우 유포 과정에서 금전이 오간 사례는 드문 것으로 알려졌습니다. 결국 경찰이 채팅방에 들어가 불법 행위를 포착하는 잠입수사나 가해자 특정을 위한 불법 행위를 유도하는 함정수사에 의존할 수밖에 없는 상황입니다.

딥페이크 성착취물 피해 통계. /자료: 시큐리티 히어로.

📶N번방 사건 겪고도 달라진 게 없다

N번방 사건이라는 충격을 겪었음에도 달라진 게 없다는 비판이 나옵니다. 정부와 국회는 제2의 N번방 사건을 막기 위해 성폭력범죄처벌법과 아동청소년성보호법, 전기통신사업법, 정보통신망법 등을 개정하는 패키지 입법을 단행했습니다. 디지털 성범죄 처벌 강화와 검색, 메신저, 커뮤니티 등 부가통신사업자의 성착취물 유통 방지 의무를 강화하는 게 골자였죠.

정작 N번방 사건이 벌어진 텔레그램은 사적 대화가 이뤄진다는 이유로 규제 대상에서 제외됐습니다. 디사인사이드, 보배드림, 뽐뿌 등 대형 커뮤니티는 공개 게시판으로 분류해 규제하면서 수십만명이 한 채팅방에서 활동할 수 있는 텔레그램은 내버려둔 건데요. 결국 텔레그램을 악용한 N번방 유사 사건을 막지 못한 허점으로 작용했습니다. 검열 의혹과 국내 기업 역차별 논란에도 규제를 단행했는데 실효성이 떨어진다는 사실만 확인됐죠. 정부와 국회 모두 텔레그램 규제를 위한 보완입법 노력을 기울이지도 않았습니다. 사이버 망명지로서 텔레그램 입지만 강화되는 부작용을 가져왔죠.

최근 미국 사이버 보안업체 시큐리티 히어로가 발표한 '2023년 딥페이크 현황 보고'에 따르면 딥페이크 성착취물의 최대 타깃은 한국인으로 드러났습니다. 지난해 7~8월 게재된 딥페이크 성착취물 2만1019건을 분석한 결과 53%가 한국인을 대상으로 한 것으로 나타났죠. 한국인 피해자 대부분은 가수, 배우 등 연예인으로 딥페이크 타깃 상위 1~10위 중 8명이 한국 가수였습니다. 케이팝이 전 세계적인 인기를 끌면서 한국 가수 대상 딥페이크 성범죄가 급증한 것으로 보이는데요. 정부와 국회가 수년 전부터 불거졌던 케이팝 스타들의 딥페이크 사건에 관심을 갖고 실효성 있는 대책을 마련했더라면 이번 사태를 막을 수 있었을지도 모릅니다.

📶AI 워터마크 등 규제 기반 확립될까?

이번 사태를 계기로 AI에 대한 사회적 논의가 부족했던 점도 되돌아봐야 합니다. AI 규제에 대한 글로벌 컨센서스가 마련되지 않아 섣불리 입법 규제를 단행하지 못한 정부와 국회 나름의 이유는 있을 겁니다. 그렇지만 AI 기술을 악용한 범죄 행위에 어떻게 대응할 것인지는 치열한 논쟁의 대상으로 삼았어야 했죠. 정부와 국회가 이 문제를 방치하는 동안 딥페이크 기술은 더욱 발전했고, 범죄 수법은 악의적인 형태로 진화했습니다.

22대 국회에는 딥페이크와 관련한 규제 법안이 여러 건 발의돼 있습니다. AI가 생성한 콘텐츠를 인식할 수 있도록 표시 의무를 부과하는 일명 'AI 워터마크 법안'이 대표적인데요. 정보통신망법, 콘텐츠산업법 등 기존 법을 개정하는 방안뿐 아니라 새롭게 AI기본법을 만들어 해당 내용을 넣자는 의견도 제시됐죠. 이제라도 AI를 활용한 불법 행위에 대한 명확한 규제 기반을 서둘러 다져야 합니다. 21대 국회처럼 법안을 내놓고 방치한다면 충격적인 디지털 성범죄 사건이 또 벌어질 수 있습니다. AI 기술에 대한 혐오 심리가 확산하는 결과를 가져올 수도 있죠.

텔레그램 딥페이크 성범죄가 대한민국을 뒤흔든 시점에 프랑스에서는 텔레그램 CEO인 파벨 두로프를 체포하는 일이 벌어졌습니다. 프랑스 수사당국은 두로프가 아동 음란물 소지 및 배포, 마약 밀매, 조직 범죄 등 텔레그램 내 불법 행위를 묵인 및 방치한 혐의를 체포 사유로 들었는데요. 일단 두로프는 보석 석방된 상태인데 러시아와 프랑스 간 외교 갈등으로 번질 조짐입니다. 프랑스 정부의 예상치 못한 행보를 보면서 과연 우리는 무법지대로 전락한 텔레그램에 어떤 조치를 취해야 하는지에 대한 고심이 깊어집니다.