AI로 성착취물 찾는 서울, 아동·청소년 피해 확 줄인다

24시간 자동 추적·감시 나서
검출 속도 1분 30초 내외로 단축

시스템 결과 화면(예시) /서울시

서울시가 아동·청소년 성착취물을 특정할 수 있는 인공지능(AI) 감시 기술을 전국 최초로 도입한다. 기술 도입에 따라 키워드 입력부터 영상물 검출까지 속도가 대폭 줄며 정확도도 300% 이상으로 향상한다.

시는 아동·청소년 성착취물을 특정할 수 있는 AI 감시 기술을 개발했다고 22일 밝혔다. AI를 통해 아동·청소년 성착취물을 빠르게 찾아내고 삭제해 신속 대응한다는 계획이다.

이번에 개발한 아동·청소년 디지털 성범죄 AI 감시 시스템은 AI 딥러닝 기반 안면인식 기술로 성인과 잘 구분되지 않는 아동과 청소년의 성별과 나이를 판별할 수 있다.

특히 영상물에 '얼굴'이 나오지 않더라도 아동·청소년 피해 영상물 여부를 찾아낼 수 있다.

예시로 AI는 피해 영상물에 자주 등장하는 책, 교복, 인형 등 주변 사물과 이미지 속 텍스트, 청소년들이 주로 사용하는 언어까지 함께 인식해서 최종적으로 피해 영상물 여부를 판별한다.

해당 기술은 키워드 입력부터 영상물 검출까지 90초밖에 걸리지 않기 때문에 삭제지원관이 수작업으로 찾아낼 때(2시간)와 비교하면 검출 속도가 80분의 1로 줄고 정확도도 300% 이상으로 개선된다.

이에 따라 지난해 수작업으로 이뤄진 모니터링 건수(15만 건)의 2배인 30만 건까지 모니터링이 가능해지고, AI 학습 데이터가 축적될수록 정확도와 속도는 더욱 향상할 전망이다.

시는 또 기존에 미국을 중심으로 유포됐던 피해 영상물이 최근 중국, 러시아, 베트남 등으로 확산하는 점을 착안해 국가 기반을 넓혔다. 국내와 미국뿐 아니라 중국, 러시아 등의 국가에 유포된 피해 영상물 검색도 가능해진다.

김선순 여성가족정책실장은 "우리 사회를 충격에 빠트린 n번방 사건 이후 4년이 흘렀지만 여전히 아동·청소년을 대상으로 한 디지털 성범죄 사라지지 않고 있고 그 피해도 심각하다"며 "아동·청소년 성착취 영상을 특정할 수 있는 기술을 통해 선제적인 감시·삭제에 나서 아동·청소년이 안전한 서울을 만들겠다"고 말했다.