“딥페이크 범죄는 시간과의 싸움 365일 대기 혼자 해결은 불가능 피해 즉시 신고를!”

디지털성범죄피해자지원센터 박성혜 삭제지원팀장
“딥페이크 성범죄는 최근 들어 벌어진 사건이 아니다. 성착취물(불법합성물) 유통 경로 또한 텔레그램에만 국한되지 않는다.”
디지털성범죄피해자지원센터(이하 디성센터) 박성혜 삭제지원팀장은 딥페이크 성범죄의 심각성이 알려진 것보다 훨씬 심각하다고 말했다. 관련 범죄는 이미 수년 전부터 불거졌으며 불법합성물의 유통망도 언론을 통해 밝혀진 것보다 광범위하다는 얘기다.
딥페이크 성범죄란 생성형 인공지능(AI) 기술을 활용, 타인의 사진에 음란물을 합성해 온라인에 유포하는 행위를 말한다. 지난여름 서울대·인하대 등 대학가를 중심으로 한 딥페이크 불법합성물이 텔레그램 등을 통해 유포된 사실이 처음 세간에 알려졌고 이후 피해자와 가해자에 10대도 다수 포함됐다는 점이 드러나면서 충격을 더했다. 디성센터에 접수된 딥페이크 등 합성편집물 피해는 2018년 69건에서 2024년 8월 기준 874건으로 12배 이상 늘었다.
2018년 문을 연 디성센터는 여성가족부 산하 한국여성인권진흥원 내 설치된 기관이다. 딥페이크를 포함한 디지털 성범죄와 관련해 ▲피해 접수 및 상담 ▲삭제 지원 및 유포 여부 모니터링 ▲수사·법률·심리치료 연계 등을 원스톱으로 제공한다. 이 중 삭제 지원은 피해자 지원 가운데 89%를 차지한다(2023년 기준). 디성센터가 지원한 피해자 수는 2023년 한 해에만 8983명, 지원 건수는 27만 5520건에 달한다. 센터 측은 “우리나라는 아동·청소년뿐 아니라 성인 피해자까지 국가가 예산을 들여 성착취물 삭제를 지원하는 전 세계 거의 유일한 국가”라고 설명했다. 디지털 성범죄를 5대 폭력으로 규정하고 국가가 피해자를 보호·지원하겠다는 윤석열정부의 정책기조가 디성센터를 통해 실현되고 있는 것이다.
디성센터는 365일 창구를 열고 피해상담을 지원한다. 박 팀장은 “직원들이 명절과 휴일을 가리지 않고 근무하고 있지만 지금 이 순간에도 범죄자들은 어디선가 활동하고 있다”며 “딥페이크 성범죄와의 전쟁은 현재 진행 중”이라고 강조했다.

이른바 ‘서울대 N번방’ 사건의 경우 2021년부터 범죄가 시작된 것으로 알려졌다. 딥페이크 성범죄가 본격적으로 확산한 게 언제부터인가?
올해 사건이 크게 보도되기 몇 년 전부터 이 같은 범죄는 이미 만연했다. 다만 지금처럼 합성물을 만들어내는 수준이 심각하지 않았을 뿐이다. 이전까지는 육안으로 보면 합성물 여부를 판단할 수 있는 정도는 됐다. 지금은 직원들조차 구분이 쉽지 않다. 특히 얼굴이 알려진 연예인과 달리 일반인의 경우 합성물과 실제 음란물 사진을 구분하기가 상당히 어렵다.

피해자 지원 과정에서 가장 큰 어려움은 뭔가?
2019년 불거진 ‘N번방’ 사건 이후 관련법이 대거 정비되면서 국내 사이트에서는 더이상 디지털 성범죄물이 자리를 잡을 수 없게 됐다. 문제는 이것이 해외에 서버를 둔 사이트 중심으로 확산되고 있다는 점이다. 겉보기엔 완벽히 한국어로 된 한국 사이트인데 알고 보면 서버가 해외에 있고 운영자도 해외 국적자인 경우가 많다. 즉 국내법의 적용을 받지 않기 때문에 수사는 물론 삭제 요청을 위한 국제공조도 어렵다. 더욱이 이들은 사이트를 폐쇄시킨다 해도 주소를 계속 바꿔가며 운영한다. 같은 사람이 100번 이상 사이트 주소를 바꾼 경우도 있다.

피해자들은 자신의 피해 사실을 어떻게 알게 되나?
불법 성착취물은 접근하기 어려운 해외 사이트에 유포되기 때문에 피해자가 직접 피해 사실을 알게 되는 경우는 드물다. 제3자를 통해 ‘어디서 네 사진이 돌아다닌다더라’라는 식으로 전해 듣게 되는 상황이 많다. 간혹 ‘네 사진으로 음란물을 만들어 유포하겠다’고 협박당하는 경우도 있다.

삭제 지원은 어떻게 이뤄지는 건가?
크게 유포 사실이 확인된 경우 이뤄지는 ‘삭제 지원’과 유포 사실을 모르는 경우 이를 파악하는 ‘모니터링 지원’으로 나뉜다. 두 경우 모두 피해자가 불법합성물을 확보하고 있어야 지원이 가능하다. 불법합성물은 굉장히 민감한 정보이기 때문에 본인 인증을 한 뒤 게시판을 통해 우리에게 전달해야 한다. 그러면 곧장 삭제지원시스템과 연동돼 자동으로 DNA값이 추출되고 크롤링 서버를 통해 이와 같은 DNA값을 가진 합성물을 찾아 해당 사이트에 삭제를 요청하는 방식이다.

‘DNA’, ‘크롤링 서버’가 뭔가?
DNA란 색상, 모션, 장면 전환 등의 정보를 담은 이미지의 고유값을 말한다. 인간의 DNA처럼 디지털 이미지도 각각 고유한 DNA값을 가지고 있기 때문에 편집·가공돼 유포된 불법합성물도 찾아낼 수 있는 것이다. 디성센터는 이 같은 기술로 특허를 받은 민간 업체와 함께 자체적인 삭제지원시스템을 구축했다. 크롤링(crawling)이란 웹페이지를 끌어와 거기서 데이터를 추출해내는 것을 말한다. 디성센터 크롤링 서버에는 불법합성물이 다수 유포된 적이 있는 성인사이트 등 약 310곳이 등록돼 있다. 즉 삭제지원시스템에 피해자가 증거물을 올리면 크롤링 서버에 등록된 사이트에 등재된 이미지 가운데 DNA값이 증거물과 유사한 것을 컴퓨터가 자동으로 끌어와 비교하는 원리다.

이 방식으로 유포된 불법합성물을 모두 찾아내는 게 가능한가?
검출률은 99%에 이른다. 다만 불법합성물이 크롤링 서버에 등록된 310개 사이트에만 올라가는 게 아니기 때문에 완전한 삭제는 어려운 게 현실이다. 불법합성물이 유통되는 플랫폼은 굉장히 다양하다. 성인 사이트가 가장 많고 구글 같은 검색 엔진, 텔레그램 등의 누리소통망(SNS)이 주류를 이룬다. 최근엔 핀터레스트 같은 아카이빙 사이트나 일간베스트(일베) 같은 온라인 커뮤니티가 이용되기도 한다. 더욱이 자동화 방식으로 DNA값이 유사한 이미지를 찾는다고 해도 실제로 같은 이미지인지 최종 판별하는 것은 사람이 해야 한다. 이미지 비교부터 다양한 플랫폼을 일일이 방문해 확인하는 것까지 수작업이 60~70%라고 보면 된다. 텔레그램 같은 폐쇄형 SNS의 경우 직원들이 단톡방에 잠입해 불법합성물을 구입할 것처럼 위장해 활동하기도 한다.

불법합성물을 찾아냈다 하더라도 삭제 요청을 받아들이도록 하는 건 쉽지 않을 듯한데.
우리는 수사기관이 아니기 때문에 해외 플랫폼에서 삭제 요청을 쉽게 받아들이지 않는 것도 사실이다. 이 같은 반응에 대응하기 위해 2022년 12월 도입한 것이 ‘불법성 증명 공문’ 통지 절차다. 전문가를 통해 딥페이크 불법합성물이 명백하다는 사실을 증명하고 수사기관과 협조해 국내 사건번호를 기재한 공문을 보내는 것이다. 첫 도입 당시 문제가 심각한 사이트가 있었는데 이를 통해 8000여 건의 불법성범죄 촬영물을 하루 만에 모두 삭제했다.

갈수록 고도화되는 합성기술에 대응하려면 이에 맞선 기술개발도 필요하겠다.
맞다. 그래서 과학기술정보통신부에서 지금 개발하고 있는 것이 ‘딥페이크 합성물 탐지기술’이다. 이것이 개발되면 의심되는 이미지가 등록되자마자 불법합성물 여부를 AI가 자동으로 판단해 알려준다. 내년 2월까지 이를 활용한 시스템을 만들 수 있을 것으로 기대된다.

기술개발 외에 또 중요한 게 있나?
국제협력이다. 특히 디지털 성범죄의 경우 범죄자들이 미국 서버를 이용하는 경우가 많아 미국 유관기관과 양해각서(MOU)를 체결하는 등 협력관계를 구축했다. 다만 아동·청소년 성착취 범죄에 대한 협조가 원활한 것과는 달리 아직 성인 대상 디지털 성범죄는 협조가 어려운 것이 현실이다. 해외에선 성인 디지털 성범죄에 대한 경각심이 낮은 탓이다. 다음으로 센터가 국제적으로 힘을 발휘하려면 공신력을 갖추는 것도 중요한 문제다. 다행히 최근 국회에서 디성센터의 설치 근거법 규정을 신설하는 법안이 통과됐다. 앞서 언급했듯 이전까지는 ‘너희들이 무슨 권한으로 삭제를 요구하느냐’고 물어올 경우 제대로 대응하는 데 한계가 있었다. 앞으로는 삭제 지원 특화기관으로서 경찰과도 협력해나갈 방침이다.



피해를 입었다면 어디에, 어떻게 신고해야 하나?
우리 기관을 비롯해 지방자치단체 디지털 성범죄 피해자 지원기관이 서울·인천·경기·부산 등 4곳, 지역특화상담소가 전국 14곳이 있다. 여성가족부 누리집(www.mogef.go.kr)을 통해 확인할 수 있다. 어디든 편한 곳, 가까운 곳으로 연락하면 된다. 만약 전화가 어렵다면 디성센터의 게시판을 통한 상담도 가능하다.

피해 확산을 막기 위해 스스로 할 수 있는 일이 있나?
혼자서 뭔가를 하려 해선 안 된다. 한시라도 빨리 경찰과 디성센터에 알리는 것이 먼저다. 겁이 나서 몇 달씩 아무런 조치도 못하다 불법합성물이 걷잡을 수 없이 더 퍼지는 일도 있다. 우리는 국가에서 예산을 들여 기술을 개발하고 보안이 철저히 유지되는 기관이다. 망설이지 말고 우리를 믿고 연락하길 바란다.

디지털 성범죄를 막기 위해 우리 사회에 필요한 것은 뭘까?
불법합성물이 유통되는 온라인 플랫폼에 대한 감시와 처벌, 그리고 디지털 리터러시 교육을 강화하는 것이다. 특히 디지털기술은 너무 손쉽게 이용할 수 있는 데 반해 이 기술이 어떻게 잘못 쓰일 수 있는지에 대한 교육은 부족하다. 지금 청소년들은 이에 대한 경각심이 매우 떨어진다. 때문에 성착취물을 만드는 걸 하나의 ‘놀이’로 인식하고 자신도 모르는 새 범죄에 가담하게 되는 거다. 교육이 기술 발전의 속도를 따라가지 못하면 이 같은 범죄는 계속될 것이다.

디지털 성범죄는 근절 가능한가?
디지털 성범죄의 특성은 가해자가 붙잡혀도 피해가 계속될 수 있다는 거다. 심지어 센터가 설립된 2018년부터 지원한 피해자 중 지금까지 지원을 받고 있는 경우도 있다. 그럼에도 센터가 설립됐을 당시보다 많은 것이 달라졌다는 점에서 희망을 본다. 2018년에는 국내 포털 사이트에서도 불법 성착취물을 쉽게 볼 수 있었다. 삭제 요청을 해도 들어주지 않았다. 그런데 지금은 국내 사이트에선 전혀 찾아볼 수 없지 않나. 그간 수많은 법이 만들어지고 사회적 인식도 달라진 덕이다. 최근 관련 법이 대거 개정됐고 앞으로 정부에서 종합대책을 또 발표할 거다. 싸움을 포기하지 않는 한 세상은 더 나은 방향으로 조금씩 변해갈 것이다.

조윤 기자

(www.korea.kr)