한국시사경제 디지털 뉴스팀 | # 친구 B는 사회관계망서비스(SNS)에서 A(18세)의 불법촬영물 사진을 보고 이를 캡쳐해 A에게 바로 알려주었다. A는 너무 놀라서 서울시가 운영하는 ‘서울 디지털성범죄 안심지원센터’에 도움을 요청했다. 복제본 사진을 SNS에서 뿐 아니라 삭제지원관도 알지 못하는 신규 불법사이트에서 찾아낸 건 다름 아닌 AI(인공지능) 기술. AI는 삭제지원관이 활동하지 않는 새벽 시간에, A의 복제본 사진의 얼굴, 가방 등을 분석해 신규 불법 사이트에서 다량의 사진을 추가로 발견하여 신속하게 삭제지원을 하는데 중요한 역할을 했다.

"저는 제 사진이 이렇게 많이 유포되어 있는지 몰랐어요. 처음에는 불법촬영물 1개만 있는 줄 알았어요. 그런데 AI가 관련된 사진을 다 찾아줬다고 하더라고요. 혼자였다면 절대 못 찾았을 거예요. 정말 다행이에요.(A 인터뷰)"

 

서울시가 지난 2023년 전국 최초로, 독자적으로 개발해 온라인상에 유포된 성착취물 탐지부터 삭제까지 걸리는 시간을 획기적으로 단축시킨 ‘디지털 성범죄 AI 삭제지원’ 기술의 전국화에 나선다.

 

서울시는 오는 3일 첫 번째 무상 기술이전 계약을 시작으로, 기술 전수를 원하는 전국의 정부기관, 지자체, 기업 등에 ‘디지털 성범죄 AI 삭제지원’ 기술을 무상으로 보급한다고 밝혔다.

 

서울시가 개발한 ‘디지털 성범죄 AI 삭제지원’ 기술은 인공지능(AI)이 24시간 실시간 모니터링을 통해 각종 불법사이트, 사회관계망(SNS) 상의 피해 영상물을 자동으로 검출해, 보다 빠르게 영상물을 삭제하고 재유포를 막는 기술이다.

 

2023년 정부혁신 우수사례 ‘대통령상 대상’, 2024년 ‘UN공공행정상 대상’을 수상하는 등 국내는 물론 해외에서도 그 우수성을 인정받았을 뿐 아니라, 전국 최초로 기술 특허 등록까지 획득해 그 효과성을 검증받았다.

 

‘디지털 성범죄 AI 삭제지원’ 기술은 지난 2023년 3월 서울시와 서울연구원이 핵심기술을 개발 완료한 이후, ‘서울 디지털성범죄 안심지원센터’(운영: 서울여성가족재단)에서 운영하고 있다.

 

최초 기술 개발 이후 ’24년에는 아동‧청소년 안면인식 나이예측 삭제지원 기술을, ’25년도에는 탐지부터 신고까지 자동화하는 AI 자동신고 시스템을 추가적으로 구축했으며, 저작권 등록(’25.2월)과 기술 특허 등록(’25.6월) 까지 모두 완료했다.

 

무엇보다도, 이 기술의 핵심은 그동안 사람이 육안으로 일일이 찾아내서 신고하는 방식에 비해 처리시간은 3시간에서 단 6분으로 단축돼 처리속도가 30배나 빨라지고, 정확도도 200~300% 개선된다는 점이다. 실제로 서울시를 제외한 전국의 디지털 성범죄 피해지원 기관에서는 여전히 상담원들이 피해영상물을 수작업으로 탐지하고 있다. 또한, 시는 AI 삭제지원 기술의 무상 보급으로 기관당 약 1억 8천만 원의 예산 절감 효과가 있을 것으로 보고 있다.

 

서울시는 ‘디지털 성범죄 AI 삭제지원’ 기술 보급을 통해 서울뿐 아니라 전국의 디지털 성범죄 피해자들이 동일한 수준의 신속한 지원을 받게 되기를 기대하고 있다. ‘피해자를 지키는 기술’을 서울시만의 전유물이 아니라, 공공의 안전을 위해 우리 사회에 돌려주는 ‘기술의 공공재화’ 모델을 실현하는 첫 사례라는 점에서 큰 의미가 있다.

 

서울시는 이번 AI 기술 무상보급을 특정 기관이나 일부 지역에 한정하지 않고, 공익 목적에 한해 정부기관과 지자체 등에서 폭넓게 활용할 수 있도록 지원할 계획이다. 또한, 국경을 넘어 유포되는 디지털성범죄의 특성을 고려해서 국내뿐 아니라 해외 비영리 기관과도 협력할 예정이다.

 

기술 무상보급 시, 서울시와 서울연구원에서는 요청기관의 운영 목적, 사용계획 등을 사전에 심사하고 공동협력(MOU), 계약 등을 통해 무상이전을 추진할 계획이다.

 

'AI기술 도입 후 삭제지원 건수 4년 만에 6배 이상↑…숨겨진 신규 불법 사이트까지 찾아내'

 

한편, 서울시는 AI 기술 도입 이후 ‘서울 디지털 성범죄 안심지원센터’의 삭제지원 건수가 2022년 2,509건에서 2025년 15,777건으로 4년 만에 6배 이상 증가했다고 밝혔다.

 

AI는 사람이 찾지 못하는 신규 불법 사이트까지 새롭게 찾아내 신규 사이트에서 발견한 피해 영상물 삭제지원 건수가 크게 늘었다. 기존에는 잘 알려진 사이트 위주로 찾아 폐쇄형‧신규‧해외 불법 사이트를 놓치기 쉬웠지만, 이제 AI는 대규모 자동탐색과 확장 검색으로 사람이 찾지 못하는 신규 불법 사이트까지 추적한다.

 

AI 도입으로 딥페이크 영상물 탐지도 가능해졌다. 기존에는 피해자가 원본을 갖고 있어야 동일한 영상을 찾을 수 있었으나 AI는 원본이 없어도 비디오‧오디오‧텍스트 3종 분석으로 복제본까지 식별해 탐지한다. 또한 편집되거나 모자이크 처리된 변형본 영상도 신체‧언어‧움직임 패턴을 학습해 피해 영상을 식별해 탐지 사각지대를 크게 줄였다.

 

또한, 기존에는 ‘화장실에서 찍힌 불법촬영’ 사진 1개의 동일한 사진만 찾아낼 수 있었다면, AI는 안면·객체 인식으로 같은 얼굴, 옷을 입은 동일한 피해자의 다수 촬영물을 자동으로 묶어서 다량으로 탐지한다. 이를 통해 그동안 찾지 못했던 영상물을 신속하게 발견해서 빠른 삭제지원이 가능해졌다.

 

삭제 처리된 후 재업로드 된 영상도 재탐지가 가능한 점 역시 획기적인 발전이다. 최근 디지털 성범죄는 가해자가 금요일 밤에 영상물을 올리고 주말에 삭제하는 등 지능형 범죄로 진화하는데, AI를 통해 24시간 빠르게 재탐지할 수 있게 됐다.

 

무엇보다도, AI 기술 도입으로 피해 영상물을 매일 봐야 하는 직원들의 심리적 고통을 최소화하는 효과도 있다. AI가 피해 영상물을 블러(흐림) 처리한 후 삭제지원관에게 전달할 뿐 아니라 반복적인 불법 영상 검색 업무를 대신 수행함으로써 삭제지원관들의 정신 건강을 보호하고 업무의 지속 가능성을 확보할 수 있게 된 점도 큰 의미가 있다.

 

오균 서울연구원장은 “이번 AI 기술은 전국 최초로 특허를 받은 혁신 기술로, 서울연구원이 개발한 공공기술을 사회적 가치 실현을 위해 무상으로 개방하는 첫 사례”라며 “연구기관이 개발한 기술이 전국의 피해자 보호 현장에서 실질적 변화를 만들어낼 수 있어 매우 뜻깊다”라고 밝혔다.

 

마채숙 서울시 여성가족실장은 “이번 서울시의 AI 기술 무상보급은 피해자 보호를 최우선으로 고려해 내린 결단으로서, 서울시가 개발한 ‘피해자 보호 기술’을 서울시의 것만이 아닌, 공공의 안전을 위한 공공재로 확장한다는 점에서 큰 의미가 있다.”라며 “디지털 성범죄 AI 삭제기술 무상보급을 통해 전국 어디서나 동일한 수준의 신속하고 실질적인 지원을 받을 수 있게 되기를 기대한다”라고 말했다.