딥페이크 성범죄 어떻게 대응해야 할까?

인공지능(AI) 기술의 발전과 함께 딥페이크를 활용한 성범죄가 심각한 사회문제로 대두하고 있어요. 딥페이크는 ‘딥러닝’과 ‘페이크’의 합성어로 AI 기술을 활용해 기존 사진이나 영상을 다른 콘텐츠와 합성하는 기술을 말하는데요. 2024년 1월 세계적 팝스타 테일러 스위프트의 딥페이크 이미지가 누리소통망(SNS)에서 17시간 동안 떠돌며 4700만 회나 조회됐다는 충격적인 소식이 전해졌죠. 국내에서도 2024년 8월 여대생들의 얼굴을 합성한 성범죄물이 1200여 명이 참여한 단체 텔레그램방에 유포되며 30여 명이 넘는 피해자가 발생했다고 해요.
‘셀카’ 사진을 SNS에 올리고 친구들과 공유하던 일상이 불안함으로 흔들리고 있어요. 딥페이크 기술은 AI 기술의 발전이 가져온 부작용일까요? 급증하는 딥페이크 성범죄 문제를 두고 MZ세대의 생생한 목소리를 들어봤어요.

제1회 생생 MZ 톡 참여자 소개
오리부리(31, 마케터)
앨리스(32, 통역가)
이응(24, 대학생)
유진(36, 회사원)
낭랑(28, 프리랜서)
영경(29, 프리랜서)

Q. 딥페이크 성범죄에 대한 현행 법률의 처벌 수위는 적절하다고 생각하나요?

낭랑
한 다리, 두 다리만 건너도 딥페이크 피해자들이 있더라고요. 대부분 가해자가 학생이었다는 점이 가장 말이 안된다고 생각했어요. 처벌수위가 낮은 건 알고 있었지만 얼마나 낮으면 이렇게 우후죽순 피해자들이 나오나 싶어요.

오리부리
성적 허위영상물 유포에 대한 처벌이 불법촬영물과 동일하게 최고 7년형인데 처벌수위가 낮다는 생각이 들어요. 요즘 같은 디지털 세상에서 내 얼굴이 드러난 성적 영상이 뿌려지는 건 인격살인을 당하는 거나 마찬가지 아닌가요?
딥페이크로 합성한 성적촬영물이라고 하더라도 범죄의 피해자는 동일한 정신적 고통과 사회적 피해를 입게 될 텐데 편집과 유포를 한 범죄자에 대한 처벌이 훨씬 세졌으면 좋겠어요.

유진
“딥페이크뿐만 아니라 한국에서는 성범죄의 양형 기준이 너무나 관대한 것 같아요. 판결이라는 게 결국 해당 이슈를 바라보는 사회의 인식과 궤를 같이하는 만큼 여성인권에 대한 인식도 개선돼야 하고 양형 기준 자체를 구조적으로 개편하는 과정이 필수라고 생각해요.”

영경
“페이크 성범죄는 비교적 최근에서야 문제의 심각성이 이야기되고 있는데 처벌의 수위는 물론이고 처벌받는 대상의 구분도 명확하지 않아서 기준을 명확히 잡는 게 필요해 보여요.”

Q. 온라인 플랫폼의 딥페이크 유포 방지를 위한 책임과 의무는 어떻게 설정돼야 할까요?

앨리스
온라인 플랫폼은 성인물 사이트보다 더 철저하고 광범위한 규제가 필요하다고 봐요. 정부기관과 협력하고 윤리적 알고리즘을 적용하기 위해 인적 자원을 활용한 적극적인 모니터링도 이뤄져야 해요.

낭랑
아동 영상의 댓글을 자동으로 제한하는 등 딥페이크 추정 콘텐츠를 적극적으로 제한하는 것도 좋은 방법일 것 같아요. 하지만 갈수록 정교해지는 기술을 플랫폼이 얼마나 잘 걸러낼 수 있을지는 의문이에요. 결국 개개인의 미디어 리터러시와 적극적인 신고가 중요할 것 같아요.

이응
“저는 오히려 개인의 신고 이전에 플랫폼이 먼저 필터링을 하거나 딥페이크 영상임을 명시하는 의무를 가져야 한다고 생각해요. 물론 쏟아지는 콘텐츠를 모두 걸러내긴 어렵겠지만 플랫폼의 관리나 가이드라인이 없다면 소비자에게만 과도한 책임이 부과될 것 같아요. ”

오리부리
“저도 온라인 플랫폼이 더 많은 책임을 져야 한다는 의견에 동의해요. 요즘은 생성형 인공지능(AI) 작업물을 추적하고 적발하는 기술이 많이 발전하고 있잖아요. 이용자의 체류 시간을 늘리기 위해 자극적인 게시물을 방치하는 일은 없어야 하고 개인정보를 보호하면서도 업로드되는 영상물들을 관리하려는 노력은 있었으면 좋겠어요.”

Q. 딥페이크 기술의 오남용을 막기 위해 어떤 기술·사회적 대안이 필요하다고 생각하나요?

이응
“딥페이크 기술 오남용의 범위와 기준부터 명확하게 만들어야 해요. AI 기술 사용을 위한 가이드라인도 없는 상태에서 너무 쉽게 AI 기술을 접할 수 있으니까요. 가해자와 피해자 모두가 대부분 청소년이라 공교육 차원의 수업도 필요해요.”

오리부리
“기술적인 부분에 대해서는 전문가가 아니라 정확하게 말할 수 없지만 한 가지는 확실해요. 사회적으로 성범죄에 대한 성인지 감수성이 더 높아져야 한다는 거죠. ‘진짜 네 몸도 아닌데 왜 오버하냐’, ‘네 얼굴이 예쁘니까 합성도 해주는 거지’라는 식의 말도 안되는 인식이 아직도 있거든요. 또 진짜와 구분하기 어려운 딥페이크 영상을 판별하는 능력을 기르도록 누리꾼들에게 가이드라인을 배포하고 교육하는 것도 중요해 보여요.”

앨리스
정부 차원의 투자로 교육기관에서부터 범죄자 양산을 막아야 해요. 단순 단속으로는 부족하고 기술적 규제도 한계가 있어요. 기술 전문가들로 자문위원을 구성해 현실적인 해결책을 찾아야 해요.

(www.korea.kr)