디지털 성범죄 쫓는 AI…서울시 독자 개발해 전국에 무상 보급

서울에 거주하는 A씨(18)는 자신을 불법으로 촬영한 사진이 사회관계망서비스에서 퍼지고 있다는 친구의 전화를 받았다. 서울디지털성범죄안심지원센터에 도움을 요청하자, 불과 수 분 만에 신규 불법 사이트에 올라왔던 A씨의 사진이 대거 삭제됐다. A씨는 “내 사진이 온라인 공간에 이렇게 많이 유포됐는지 미처 몰랐다”며 놀란 가슴을 쓸어내렸다.

디지털 공간에서 빠르게 불법 촬영된 A씨 사진이 사라질 수 있었던 배경엔 서울시가 전국 최초로 개발한 ‘디지털 성범죄 인공지능(AI) 삭제 기술’이 있다. AI가 디지털 성범죄 사진·영상을 포착해 삭제까지 지원하는 시스템이다.

서울시는 “디지털 성범죄 AI 삭제 지원 기술 전국화에 나선다”며 “3일 무상 기술 이전 계약을 시작으로 기술 전수를 원하는 전국 기관, 지방자치단체, 기업에 무상 보급한다”고 2일 발표했다.

처리시간 3시간→6분, 속도 30배↑

지난 2023년 서울시·서울연구원이 독자적으로 개발한 이 시스템은 AI가 24시간 온라인 공간을 실시간 모니터링해 각종 불법 사이트나 소셜미디어에 올라온 피해 영상물을 자동으로 검출해, 보다 빠르게 영상물을 삭제하고 재유포를 막는 기술이다.

현재 서울여성가족재단이 운영하는 서울디지털성범죄안심지원센터가 실제로 이 기술을 활용 중이다. 2023년 정부혁신 우수사례 ‘대통령상 대상’, 2024년 ‘UN공공행정상 대상’을 수상하고, 전국 최초로 기술 특허 등록을 획득했다.

디지털 성범죄 AI 삭제 기술을 적용한 덕분에 서울시는 온라인 공간에 올라온 디지털 성범죄를 처리하는 기간을 획기적으로 단축했다. 과거 사람이 육안으로 일일이 찾아내서 신고하는 방식은 최소 3시간 정도가 필요했다. 하지만 AI 덕분에 처리시간(6분)이 30배나 줄었고, 정확도도 200~300% 높아졌다.

AI 기술을 도입한 이후 서울디지털성범죄안심지원센터가 삭제한 디지털 성범죄 건수도 증가했다. 2022년 2509건이던 삭제 건수는 지난해 1만5777건으로 6배 이상 늘었다.

실제로 서울시를 제외한 전국 지방자치단체 산하 디지털 성범죄 피해지원 기관은 여전히 상담원들이 피해 영상물을 수작업으로 탐지하고 있다. 서울시는 AI 삭제 지원 기술을 전국에 무상으로 보급하면 기관당 약 1억8000만원의 예산 절감 효과가 있을 것으로 예상했다.

오균 서울연구원장은 “디지털 성범죄 AI 삭제 기술은 전국 최초로 특허를 받은 혁신 기술이자 서울연구원이 개발한 공공기술을 무상으로 개방하는 최초 사례”라고 설명했다.

숨겨진 사이트까지 찾아…기관당 1억8000만원 절감

서울시는 AI 기술 무상보급을 특정 기관·지역에 한정하지 않고, 공익 목적으로 사용하는 기관·단체·기업이 폭넓게 활용할 수 있도록 지원할 계획이다. 국경을 넘어 유포되는 디지털 성범죄의 특성을 고려해서 국내뿐 아니라 해외 비영리 기관과도 협력할 예정이다. 기술 운영 목적, 사용 계획 등을 제출하면 서울시·서울연구원이 심사 과정을 거쳐 무상 이전을 추진한다.

마채숙 서울시 여성가족실장은 “서울시는 디지털 성범죄 피해자를 보호하기 위해 디지털 성범죄 AI 삭제 기술을 무상으로 보급하기로 결정했다”며 “디지털 성범죄 피해자들이 전국 어디서나 신속하고 실질적인 지원을 받을 수 있기를 기대한다”고 말했다.





문희철([email protected])