AI가 성범죄 영상물 찾아 자동 삭제 보이스피싱범도 AI 기술로 추적 말없이 ‘똑똑’ 누르기만 해도 112 신고

정부혁신은 스마트하다
디지털 성범죄 피해자인 A양(15)은 채팅 애플리케이션(앱)을 통해 가해자를 만났다. 가해자는 A양의 사진을 보고 ‘예쁘다’며 접근했다. 기프티콘을 선물하고 채팅방에서 몇 개월간 A양의 이야기를 들어주며 환심을 샀다. 이후 얼굴 사진부터 속옷만 입은 사진 등 점차 수위를 높여가며 성적인 사진과 영상을 요구했다. A양이 ‘더 이상 사진을 보내줄 수 없다’며 거부하자 가해자는 그동안 찍은 사진과 영상을 친구들과 누리소통망(SNS)에 다 유포하겠다고 협박했다. A양은 경찰에 신고했지만 피해 영상물이 유포될까봐 두려웠다. 경찰은 A양을 서울디지털성범죄안심지원센터와 연결해줬다. 센터에서는 A양이 보낸 사진과 영상물을 인공지능(AI)으로 검색해 유포 22초 만에 확인하고 곧바로 삭제를 요청해 확산을 막았다. 이후 센터에선 A양에게 법률과 심리치료 지원을 연계했고 부모에게도 심리상담을 지원해 가족의 일상회복을 도왔다.
2022년 3월 문을 연 서울디지털성범죄안심지원센터는 소위 ‘몰카’나 ‘리벤지 포르노’ 등 불법촬영 피해자들을 지원하는 곳이다. 온라인에 유포된 영상이나 이미지 등을 찾고 삭제 조치하는 역할을 한다. 센터에서는 그동안 피해자에게 제보받은 영상이나 사진을 토대로 구글, 트위터 등에 일일이 키워드를 넣어 검색하거나 유사한 사진과 영상을 눈으로 판독해서 수작업으로 삭제 조치해왔다. 2023년 3월 서울시는 전국 최초로 AI 기술을 활용해 SNS에 유포되는 피해 영상물을 24시간 실시간으로 자동 추적·감시하는 ‘디지털 성범죄 AI 삭제지원 프로그램’을 개발·도입했다. 영상물을 찾아내 삭제하기까지 소요되는 시간이 획기적으로 줄었다. 사람이 직접 키워드를 입력하고 영상물을 검출하기까지는 평균 두 시간이 걸리지만 AI를 활용하면 3분이면 충분하다. 정확도도 200% 이상 높아졌다. AI의 학습 데이터가 축적될수록 정확도와 속도는 더욱 향상될 예정이다.
서울시는 2023년 11월 AI를 도입한 지 7개월 만에 총 45만 건의 영상물을 모니터링했다고 밝혔다. 이는 AI 도입 전 사람(삭제지원관)이 직접 모니터링했을 때(3만 3511건)보다 13배 많다. AI 도입 후 7개월간 피해영상물 삭제지원 건수는 4141건으로 전년 같은 기간(2049건)의 두 배 가까이 늘었다.
특히 AI는 사람이 일하지 않는 새벽 시간대에도 자동 모니터링이 가능해 유포 속도가 매우 빠른 SNS를 통해 피해 영상물이 재확산되는 것을 막아준다. 최근 디지털 성범죄 유포 방식은 검거를 피하기 위해 금요일 밤에 올리고 주말 동안만 짧은 시간 유포한 뒤 다시 삭제하는 식이다. 때문에 삭제지원관이 근무하지 않는 시간에 AI를 통한 실시간 모니터링이 중요하다. 또한 삭제지원관이 피해 영상물을 접하면서 발생할 수 있는 트라우마와 스트레스를 줄일 수 있는 장점도 있다.
서울시의 디지털 성범죄 AI 삭제지원 프로그램은 행정안전부가 개최한 ‘2023 정부혁신 우수사례 경진대회’에서 대상인 대통령상을 수상했다. AI가 기존 피해 영상물의 삭제지원에 비해 보다 빠르고 정확하게 삭제지원을 할 수 있다는 점, 이를 통해 피해자의 고통을 줄이고 일상회복을 지원할 수 있어 디지털 성범죄의 가장 고질적인 문제를 해결할 수 있다는 점에서 높은 평가를 받았다.
AI 등 첨단 디지털 기술을 활용한 정부 부처, 지방자치단체의 혁신 노력은 국민의 삶을 보다 안전하게 만들고 있다. 이번 호에선 디지털 기술로 똑똑해진 스마트 정부의 우수 혁신 사례를 소개한다.



AI로 ‘그놈 목소리’ 찾아낸다
“영상 합의보려고 전화 드렸습니다. 합의 의사 없으시면 지금부터 본인 가족이랑 지인에게 먼저 보내드릴까 하는데.”
보이스피싱 피해자의 휴대전화에 녹음된 음성이다. 범인은 몰래 빼낸 은밀한 영상을 유포하겠다며 금품을 요구했다. 경기남부경찰청은 이 같은 수법으로 약 70명에게 6억 원을 가로챈 보이스피싱 범죄조직을 검거하는 데 성공했다. 직접 사건에 가담한 16명을 비롯해 2023년 10월 말까지 붙잡은 조직원은 51명에 달한다.
이처럼 경찰이 보이스피싱 조직원을 무더기로 잡을 수 있었던 데는 세계 최초 보이스피싱 음성분석 모델 ‘케이-봄(K-VoM·The Korea Voice Analysis Model)’이 큰 역할을 했다. 케이-봄은 행안부 통합데이터분석센터와 국립과학수사연구원이 2023년 2월 개발했다. 경찰은 보이스피싱 범죄가 의심되는 5명을 적발한 뒤 이들의 음성을 케이-봄으로 1만 5000여 개 범죄자 음성 데이터와 비교했다. 보이스피싱범임을 확인한 후 통화 및 계좌내역 조사, 폐쇄회로텔레비전(CCTV) 등을 추적해 2023년 10월 일당 46명을 추가로 검거했다. 케이-봄 개발에 참여한 국과수 박남인 연구사(디지털과 오디오미디어연구실)는 “이번 사건은 발신번호를 조작하는 중계기 단속 과정에서 검거한 조직원 5명의 목소리를 기존 범죄자들의 음성 데이터와 비교함으로써 미제사건 범죄자까지 추가로 검거할 수 있었다”고 설명했다.
케이-봄은 인공지능 딥러닝(심화 학습) 기술로 개발과정에서 국내외 약 6000여 명으로부터 추출한 100만 개 이상의 외국어와 한국어 음성데이터를 학습했다. 판별 능력을 갖춘 AI 분석 시스템으로 보이스피싱 범죄자들의 목소리를 대조해 동일인 여부를 즉시 가려낸다. 국과수가 기존 해외에서 도입해 사용해온 음성분석 모델보다 77%가량 향상된 모델이다. 2023년 2월 말부터 이 모델을 활용해온 국과수는 2023년 9월까지 전년 대비 66% 증가한 78건의 사건에 대한 음성감정을 실시해 제공했다.
케이-봄은 2023년 10월부터 전국 경찰 수사 현장에서도 활용됐다. 그동안 경찰 수사 과정에서 음성 감정이 필요한 경우 국과수에 의뢰해야 했고 결과 회신까지 2~3주가 소요됐다. 이 때문에 용의자에 대한 출국금지나 영장 청구 등이 늦어지는 바람에 용의자 신병 확보나 수사 절차 진행에 어려움이 있었다. 케이-봄이 도입되면서 경찰은 범죄 혐의가 의심되는 용의자의 음성을 이미 확보된 범죄가담자의 음성과 바로 비교·분석할 수 있다. 이에 따라 범죄자 특정과 영장 신청·검거 등 보다 빠른 수사가 이뤄지게 됐다.
행안부의 세계 최초 보이스피싱 음성분석 모델 케이-봄은 ‘2023년 적극행정 우수사례 경진대회’에서 대상을 수상했다. 이 대회는 공공부문의 적극행정 사례 중 국민이 체감할 수 있는 성과를 낸 사례를 선정해 격려하기 위한 것으로 국민이 단계마다 직접 참여해 우수사례를 뽑는다. ‘2023년 정부혁신 우수사례 경진대회’에선 국민의 일상을 더 편리하고 안전하게 바꾼 사례로 금상을 수상했다.





보이는 112 “말하지 않아도 알아요”
2023년 4월 B씨는 전 남자친구 집에서 맥주를 마시고 있었다. 전 남자친구는 B씨가 다른 남자를 만난다는 이유로 폭행을 하기 시작했다. B씨는 화장실을 간다며 긴박한 상황을 모면한 뒤 ‘보이는 112’에 신고했다. 바깥으로 소리가 새어 나갈까봐 채팅으로 위치와 상황을 알렸다. 덕분에 신속하게 구조될 수 있었다.
범죄나 재해·재난 등 급박한 상황에 놓인 신고자가 112 신고를 하더라도 말을 할 수 없는 경우 보이는 112를 활용하면 신속하게 도움을 받을 수 있다. 산속에서 길을 잃어 위치를 알기 어려운 경우에도 주변 지형을 말로 표현하기 어렵다. 경찰청은 음성에 의존하는 신고로는 경찰 도움을 받는 데 한계가 따른다는 데 착안해 보이는 112를 개발했다.
보이는 112의 신고 절차는 간단하다. 신고자가 112에 전화를 건 뒤 경찰관의 안내에 따라 숫자 버튼을 ‘똑똑’ 눌러 말하기 힘든 상황임을 알리면 경찰은 말 없는 신고임을 인지하고 신고자 휴대전화에 보이는 112 접속 링크(URL)를 발송한다. 신고자가 이 링크를 클릭하면 신고자 위치와 상황 등이 실시간으로 112상황실에 전송되고 신고자의 휴대전화 카메라로 위치와 주변 상황이 공유된다. 신고자가 위치를 모르거나 말할 수 없는 상황에서도 위치 확인과 현장 대처가 원활하게 이뤄진다.
경찰관과 실시간 비밀채팅도 가능하다. 채팅방은 인터넷 검색창처럼 꾸며졌다. 검색창에 대화 문구를 입력하는 방식으로 채팅이 이뤄져 옆 사람이 눈치재지 못하게 할 수 있다.
보이는 112는 2022년 1월 도입 이후 500일 만에 5만 1158건의 신고가 접수됐다. 위치 확인, 영상 전송, 비밀채팅 등 모바일 첨단기술을 활용한 보이는 112는 2023년 4월 행안부가 주최한 ‘국민 일상을 바꾼 정부혁신 최고사례’로 꼽힌 데 이어 ‘2023년 정부혁신 우수사례 경진대회’에서 금상을 수상했다.
정부와 공공기관, 지자체가 이끌어낸 다양한 혁신 성과는 정부혁신 누리집인 ‘혁신24(innovation.go.kr)’에서 자세히 볼 수 있다. 행안부는 혁신 사례들이 각 기관에 확산될 수 있도록 앞으로도 적극 지원할 예정이다.
고기동 행안부 차관은 “윤석열정부는 정부혁신을 통해 국민 일상과 직결되는 민생문제를 해결하고 국민 누구나 편리하고 안전한 삶을 누릴 수 있도록 노력하고 있다“며 “이를 위해 국민 소통을 확대하고 민·관 협업을 강화해 속도감 있게 문제를 해결하는 행동하는 정부가 되겠다”고 말했다.

강정미 기자

(www.korea.kr)