배재미디어센터

2026년 현재, AI 기술은 누구나 손쉽게 고화질 영상을 제작할 수 있는 시대가 도래했다. 특히 스마트폰 앱 하나로 지인의 얼굴을 음란물과 합성하는 '모바일 딥페이크 성범죄'가 기승을 부리며 심각한 사회 문제로 부상하고 있다. 이러한 현상은 단순한 범죄를 넘어, 사회 전반에 걸쳐 큰 영향을 미치고 있다.

 

중앙디지털성범죄피해자지원센터의 조사에 따르면 딥페이크 성범죄 피해자의 97%가 여성인 것으로 조사됐다. 이 통계는 성범죄의 피해가 주로 여성에게 집중되고 있음을 시사한다. 특히, 중·고등학교와 대학교에서 피해가 집중되며, 10대와 20대의 비율이 높게 나타났다. 10대 이하의 피해자는 46.4%(839명)로 가장 많았고, 20대가 45.9%(829명)로 뒤를 이었다. 이는 청소년과 청년층이 범죄의 주요 타깃이 되고 있음을 보여준다.

 

과거 딥페이크 영상 제작은 고성능 컴퓨터와 전문적인 지식이 필요했지만, 이제는 사정이 다르다. 2026년의 생성형 AI 모델들은 단 몇 초의 로딩만으로도 육안으로는 구분이 불가능한 수준의 정교한 합성 영상을 만들어낸다. 피해 대상 역시 연예인이나 유명인을 넘어 학교 동기, 직장 동료, 심지어는 SNS에서 마주친 일반인으로 무차별적으로 확산되는 추세다.

 

법적 처벌 수위는 그 어느 때보다 강력해졌다. 2025년을 기점으로 강화된 성폭력처벌법에 따라, 이제는 딥페이크 성착취물을 제작하거나 유포하는 것뿐만 아니라 이를 단순히 소지하거나 시청하기만 해도 3년 이하의 징역 또는 3천만 원 이하의 벌금형에 처해질 수 있다. 특히 아동·청소년을 대상으로 한 범죄의 경우 무기징역까지 선고될 수 있는 엄중한 사안임에도 불구하고, 익명성 뒤에 숨은 범죄의 독버섯은 여전히 은밀하게 번져나가고 있다.

 

AI 기술로 인한 범죄를 막기 위해 이제는 ‘방어막’에도 AI가 본격적으로 도입되고 있다. 과거에는 전담 인력이 불법 촬영물과 성착취물이 올라온 사이트를 직접 검색해 눈으로 확인하고, 각 사이트마다 삭제 요청 메일을 일일이 작성해 보내는 방식에 의존해 왔다. 이 과정은 평균 2~3시간이 걸려 대응이 지연되고, 사람이 매일 노출 영상을 반복해서 봐야 한다는 점에서 심리적 부담도 매우 컸다. 서울시의 디지털 성범죄 AI 삭제지원 기술은 24시간 실시간 모니터링을 통해 딥페이크와 아동·청소년 성착취물을 정밀하게 탐지한다. 특히 탐지부터 신고까지의 전 과정을 자동화하여 기존 3시간이던 작업 시간을 6분으로 대폭 줄이고 정확도까지 비약적으로 향상시켰다. 그 결과 삭제 지원 건수가 4년 만에 6배 이상 급증하며 해외 서버나 깊숙이 숨겨진 불법 촬영물까지 잡아내는 성과를 거두고 있다.

 

AI가 영상을 먼저 탐지하고 화면을 블러 처리해주면서 담당자의 정신적 고통이 줄었고, 덕분에 상담 인력은 법률이나 심리 지원 같은 피해자 보호 업무에 더 집중할 수 있게 됐다. 서울시는 이 기술을 정부와 지자체에 무상으로 보급해 전국적인 방어 체계를 갖추고 영상의 재유포와 2차 피해를 막는 데 주력하고 있다. 해외에서도 딥페이크 처벌법 마련이나 자동 차단 시스템 공유 등 기술적·제도적 대응이 활발하게 이어지는 추세다. 결과적으로 고도화된 AI 기반 방어막은 디지털 성범죄를 포함한 각종 AI 범죄 예방에서 앞으로 핵심적인 역할을 할 것으로 보인다.

 

피해 영상물은 한 번 유포되면 완벽한 삭제가 거의 불가능에 가깝다. 정부는 24시간 핫라인을 통해 피해 영상의 신속한 삭제를 지원하고 있지만, 해외 플랫폼과의 공조 문제 등 여전히 넘어야 할 산이 많다, 결국 딥페이크 성범죄를 기술의 오용을 넘어선 중대한 인권 침해로 규정하는 사회적 합의가 필요하다. 급격한 기술 발전 속도에 맞춰 성숙한 디지털 윤리 의식을 확립하고, 실효성 있는 법 집행력을 확보하는 것이 시급한 과제다. 이러한 변화는 단순히 법적 제재를 넘어서, 사회 전반의 인식 개선이 필요하다.