아이들 노린 '온라인 그루밍' 범죄…서울시, AI로 잡아낸다

아동·청소년을 노린 ‘온라인 그루밍’ 범죄가 증가하는 상황에서 서울시가 전국 최초로 인공지능(AI) 기반 대응 체계를 마련한다. 서울시·서울연구원은 1일 “AI가 24시간 온라인 위험 징후를 선제적으로 포착해 미성년자를 보호하는 ‘서울 안심아이(eye)’를 연내 개발한다”고 발표했다.

서울시, ‘서울 안심아이’ 개발

온라인 그루밍은 온라인상에서 미성년자에게 접근해 친밀감을 형성한 뒤 성적으로 학대·착취하는 성범죄 행위다. 스마트폰이 보편화하고 온라인 소통이 일반화하면서 미성년자 온라인 그루밍도 증가하는 추세다. 서울시여성가족재단 설문에 따르면, 서울 시내 초교 5학년부터 고교 3학년까지 2316명의 응답자 중 19%가 온라인 그루밍 접근을 경험한 것으로 나타났다.

서울 안심아이는 아동·청소년이 주로 이용하는 사회관계망서비스(SNS)·오픈채팅 등을 통해 발생하는 성적 유인이나 성 착취 시도를 24시간·실시간 탐지한다. 예컨대 온라인 대화에서 ‘사진 보낼래?’나 ‘영상통화 할까?’ 등 대화가 오가는 경우 이를 포착한다. ‘집이 싫으면 가출해 보심?’, ‘용돈 받고 뭐 원하는 거 해주고 그러는 거야’와 같은 표현도 감지한다.

서울시 관계자는 “단순히 특정 단어를 감지하는 수준을 넘어 멀티모달 지원 경량화된 언어모델(sLLM, small Large Language Model)을 결합해 다양한 은어·축약어·연속된 대화 맥락까지 함께 분석하도록 설계했다”고 설명했다.

이와 같은 위험 징후를 AI가 포착하면, 즉시 피해 지원 기관에 긴급 알림을 전송한다. 다시함께상담센터 등 피해 지원 기관은 이들의 대화에 개입해 피해 확산을 초기에 차단한다. 전문 상담사를 배정해 초기 대처법을 안내하고 상담과 수사 지원까지 한다. 지속적·반복적으로 온라인 그루밍을 시도하는 계정에는 신고·고발할 수 있다.

SNS·오픈채팅서 그루밍 시도 탐지

서울시는 지난 2023년 온라인 디지털 성범죄 영상 모니터링과 신속한 삭제 지원을 위해 전국 최초로 AI 기술을 도입한 바 있다. 2024년엔 AI 안면 인식 나이 예측 기술을 개발해 아동·청소년 성착취물을 삭제하도록 지원해왔다.

서울시는 2일 서소문청사 1동에서 온라인 그루밍에 관한 사회적 인식을 확산하고 대응 방안을 찾기 위한 토론회를 개최한다. 김준철 서울연구원 연구위원이 ‘AI 기반 온라인 그루밍 탐지 및 선제 대응 기술’을, 김보화 서울시여성가족재단 책임연구원이 ‘서울시 아동·청소년 온라인 그루밍 실태와 정책 방향’을 각각 발표한다.

마채숙 서울시 여성가족실장은 “디지털 성범죄가 갈수록 진화하면서 최근 몇 년간 온라인 그루밍을 매개로 한 성 착취가 증가하는 추세”라며 “미성년자 대상 성범죄의 상당수가 온라인 그루밍에 뿌리를 두고 있는 만큼 선제적 예방에 힘쓰겠다”고 말했다.





문희철([email protected])