매일 경제

(서울=연합뉴스) 김기훈 기자 = 서울시가 온라인상에 유포된 디지털 성범죄 영상의 모니터링과 검출, 삭제 신고까지 전 과정을 자동화한 'AI 자동 삭제신고 시스템'을 국내 최초로 개발해 시행한다고 21일 밝혔다.

서울시는 앞서 2023년 서울연구원과 협력해 인공지능(AI)을 활용해 불법 영상물을 모니터링하는 '디지털 성범죄 AI 삭제지원 기술'을 개발했으며, 서울 디지털성범죄 안심지원센터에서 이를 활용해 24시간 불법 영상물을 감시하고 있다.

이번에 새로 개발한 AI 자동 삭제신고 시스템은 AI가 24시간 피해 영상물을 검출한 뒤 찾아낸 영상물을 자동으로 채증해 보고서를 만든다.

이어 해당 사이트에 삭제를 요청하는 이메일을 자동으로 생성하며, 이렇게 완성된 신고 이메일은 삭제지원관의 최종 확인을 거쳐 발송하게 된다.

이 시스템을 활용하면 온라인상에 떠도는 불법 영상물을 찾아내 해당 사이트에 삭제 신고를 하는 데까지 드는 시간이 약 3시간에서 6분으로 획기적으로 단축된다.

기존에는 삭제지원관이 수작업으로 피해 영상물을 채증하고, 보고서를 작성해야 했으나, 전 과정을 'AI 자동화'해 처리 속도가 대폭 향상됐다.

또 최근 피해 영상물이 해외에 서버를 둔 사이트에 올라오는 사례가 증가함에 따라 AI가 해외에 유포된 피해 영상물을 검색 후 영어, 중국어, 일본어, 러시아어 등 7개 국어로 신고 이메일을 생성하게 된다.




시는 또 서울 디지털 성범죄 안심지원센터를 통해 삭제지원을 비롯해 수사·법률지원, 심리치료·의료 지원 등을 원스톱 지원하고 있다.

2022년 3월부터 올해 3월까지 3천650명의 피해자를 지원했고 지원 건수는 6만4천677건에 이른다.

피해자 연령대는 10∼20대가 가장 높은 비율을 차지하며, 특히 센터 개관 이후 아동·청소년을 대상으로 한 디지털 성범죄 피해지원이 크게 늘고 있다고 시는 전했다.

실제 아동·청소년 피해자는 2022년 50명에서 2024년 624명으로 급증했다.

전체 피해자 가운데 아동·청소년이 차지하는 비율도 같은 기간 16.2%에서 22.1%로 올랐다.

특히 아동·청소년을 대상으로 한 온라인 그루밍(길들이기) 피해는 19건에서 370건으로 급증했다.

센터에서는 카카오톡 오픈채팅방 '디지털성범죄 SOS 상담' 창구를 통해 익명으로 상담을 지원하고, 아동·청소년 뿐 아니라 학부모를 대상으로도 심리치료를 무료로 지원하고 있다.

또한 수사, 법률, 의료, 삭제지원까지 원스톱으로 지원한다.

도움이 필요한 누구나 센터 상담전용 직통번호 '815-0382(영상빨리)'나 홈페이지(www.8150382.or.kr)로 문의하면 된다.

김선순 서울시 여성가족실장은 "서울시는 전국 최초로 AI를 통한 모니터링 기술을 도입한 데 이어 AI가 자동으로 삭제 신고까지 하는 기술을 도입함으로써 검출부터 삭제 신고까지 걸리는 시간을 획기적으로 단축할 것으로 기대한다"며 "디지털 성범죄로부터 아동·청소년이 안전한 서울을 만들기 위해 최선을 다하겠다"고 말했다.

kihun@yna.co.kr(끝)