서울시, AI 기반 '안심아이' 구축… 온라인 그루밍 24시간 탐지

서울시가 온라인 그루밍 범죄로부터 아동·청소년을 보호하기 위해 인공지능(AI) 기반 실시간 탐지 기술 '서울 안심아이(eye)'를 전국 최초로 구축하고 24시간 대응 체계를 가동한다.

시는 아동·청소년이 주로 이용하는 소셜네트워크서비스(SNS), 오픈채팅방 등에서 발생하는 성적 유인 및 성착취 시도를 AI가 실시간 분석해 위험 상황을 탐지하면 즉시 피해지원기관에 알림을 전송하는 구조로 설계했다. 피해지원기관은 알림 수신 즉시 개입해 피해 확산을 초기에 차단하게 된다. 범죄 접근 단계에서 대응함으로써 성범죄 예방 효과와 처벌 실효성 제고가 기대된다.

서울시는 디지털 성범죄 대응에 AI 기술을 지속 도입해왔다. 2023년에는 온라인상 유포되는 불법 촬영물 모니터링과 삭제 지원에 AI를 처음 적용했고, 2024년에는 아동·청소년 AI 안면인식 나이 예측 기술을 개발해 성착취물의 선제적 삭제를 지원했다. 올해는 온라인 그루밍 정황 탐지를 고도화하기 위해 서울연구원과 함께 신규 AI 모델을 개발 중이다.

이번 기술은 단순 키워드 탐지를 넘어 대화 흐름 속에서 성착취로 이어질 가능성이 높은 패턴을 포착하도록 설계됐다. “사진 보낼래?”, “영상통화 할까?” 등 범죄 트리거 표현뿐 아니라 은어·축약어·맥락의 연속성까지 해석하기 위해 멀티모달 기반 경량 거대언어모델(sLLM)을 활용한다.

서울시는 AI 기반 온라인 그루밍 기술 개발과 함께 사회적 인식 확산 및 대응 체계 강화 방안을 논의하기 위해 2일 오전 서울시청 서소문청사에서 토론회를 개최할 예정이다.

마채숙 서울시 여성가족실장은 “최근 온라인 그루밍을 매개로 한 성착취가 증가하는 추세를 보이고 있다”며 “미성년자 대상 성범죄의 상당수가 온라인 그루밍에 뿌리를 두고 있는 만큼, 피해자도 모르는 사이 발생하는 피해를 사전에 차단하기 위해 선제적 대응을 강화하겠다”고 말했다.

김명희 기자 noprint@etnews.com