서울 디지털성범죄 안심지원센터에 AI삭제지원 프로그램 적용
영상물 검출 2시간에서 3분으로 단축, 정확도 200% 향상
아동‧청소년 대상 디지털성범죄에도 선제적 효과 기대
서울시가 전국 최초로 인공지능(AI) 기술을 도입해 24시간 디지털성범죄 자동 추적·감시에 나선다고 밝혔습니다.
이번에 도입된 AI 기술은 서울기술연구원이 지난 해 7월 프로그램 개발에 착수한 뒤 8개월 만에 나온 것으로, 서울시가 디지털성범죄 예방과 피해자 지원을 위해 운영 중인 ‘서울 디지털성범죄 안심지원센터’의 삭제지원 프로그램에 적용돼, 피해자와 관련된 각종 사회관계망(SNS) 상의 피해 영상물을 자동으로 검출하고 삭제하게 됩니다. SNS의 특성상 전파와 공유가 쉽고 유포 속도가 빠른 만큼, 피해 영상물의 확산을 막기 위해서는 영상을 신속하게 삭제하는 것이 중요하다는 점에 착안했습니다.
특히 기존에는 삭제지원관이 피해자의 얼굴이나 특이점을 직접 식별해 수작업으로 찾아내는 방식인데 반해, AI기술은 딥러닝(심층 기계 학습)을 통해, 오디오·비디오·텍스트 정보를 종합적으로 검색 및 분석함으로써 피해자와 관련된 모든 피해 영상물을 즉시 찾아낼 수 있게 됩니다. 이를 통해 24시간 모니터링과 검색영역 확장은 물론 삭제지원관이 피해 영상물을 접하면서 발생할 수 있는 심리적 트라우마도 줄일 수 있게 됩니다.
서울시는 “키워드 입력부터 영상물 검출까지 불과 3분 정도밖에 걸리지 않아 기존 1~2시간이 소요됐던 것에 비해 검출속도가 획기적으로 개선되고, 정확도도 200% 이상 향상된다. 인공지능(AI)의 학습 데이터가 축적될수록 정확도와 속도는 향상될 것으로 기대된다.”고 밝혔습니다.
서울시 여성가족정책실 담당자는 뉴스톱과의 통화에서 “현재는 상대적으로 가장 큰 효과를 볼 수 있는 SNS에서의 확산방지에 주력하고 있다”며, “추가로 AI프로그램 고도화를 위한 계획이 진행 중이고, 이미 예산이 책정되어 있다”고 밝혔습니다.
또한 서울시는 올해 AI 기술 도입과 함께 아동‧청소년 피해 예방에 주력할 계획입니다. 최근 아동‧청소년을 대상으로 한 디지털성범죄 피해건수가 지속적으로 증가하고, 온라인상에서 유포되는 피해 영상물이 많은 데 따른 것입니다. 피해자가 삭제를 요청해야 삭제지원이 가능한 성인과 달리, 아동‧청소년은 ｢아동·청소년의 성보호에 관한 법률｣ 등에 따라 당사자나 부모의 신고 없이도 즉시 삭제가 가능한 만큼, AI를 통한 추적‧감시가 선제적이고 효율적으로 작용할 것으로 기대하고 있습니다.
서울시의 디지털성범죄 방지 대책이 올해 안에 또 한걸음 나아가는 만큼 다른 지자체의 분발이 필요해 보입니다.
3월 29일 개관 1주년을 맞은 ‘서울 디지털성범죄 안심지원센터’는 ‘n번방’ 사건 등의 디지털성범죄 피해를 막기 위해 영상물 삭제부터 법률지원, 심리‧치유까지 디지털성범죄피해자를 원스톱 통합지원하고 있습니다.
센터는 “지난 1년간 피해자 402명에게 7600여 건의 긴급상담과 수사·법률 지원, 불법 영상물 삭제, 심리치료·의료 지원 등을 제공했다”며, “센터를 찾은 피해자 가운데는 10대와 20대가 약 57%로 가장 많았고, 삭제한 피해 영상물 3천 건 중 절반이 넘는 1608건이 아동·청소년 성착취물인 것으로 나타났다”고 설명했습니다.
