서울시 오세훈 시장, 아동‧청소년 딥페이크 공동대응 나선다

[오픈뉴스] 딥페이크 성범죄가 심각한 사회문제로 떠오르고 특히 아동‧청소년을 대상으로 한 피해가 큰 가운데, 서울시가 서울중앙지검, 서울경찰청, 서울시교육청과 공조해 예방 교육부터 피해 영상물의 신속한 삭제와 차단, 그리고 피해자의 빠른 일상회복에 이르는 ‘원스톱 지원’에 나선다.

오세훈 시장은 10일 서울시청에서 서울중앙지방검찰청, 서울특별시경찰청, 서울특별시교육청과 '아동‧청소년 딥페이크 공동대응을 위한 업무협약'을 체결했다.

서울시는 최근 사회문제로 대두된 딥페이크 성범죄 대응을 위해 앞서 지난달 28일 방송통신심의위원회와 함께 지자체 최초로 ‘24시간 삭제지원 시스템’ 가동에 들어갔다. 또한, 피해사실 노출을 두려워하는 피해자를 위한 익명 상담 창구도 긴급하게 신설했으며, 개설 이후 서울 디지털성범죄 안심지원센터를 통해 278명의 피해 상담·접수가 이뤄질 정도로 도움이 필요한 피해자가 많은 상황이다.

여기에 더해 서울시는 이번 딥페이크 사태의 특징이 가해자와 피해자 상당수가 10대 아동‧청소년이라는 점에 주목, 교육기관(서울시교육청), 사법기관(서울중앙지방검찰청), 수사기관(서울경찰청) 간 긴밀한 협력으로 아동‧청소년에 대한 보호와 지원을 강화하고자 한다.

딥페이크 성범죄는 가해자와 피해자 모두 10대가 대다수를 차지하고 있다. 최근 경찰이 집중 검거한 8월 26일부터 30일 동안 딥페이크 성범죄신고는 총 118건으로 검거된 7명 중 6명이 10대로 나타났다. 피해자 역시 딥페이크 성범죄 10대 피해자는 최근 3년간 총 315명으로 전체 피해자 중 59.8%를 차지했다.

그동안 각 기관별로 서비스와 지원이 이뤄졌다면 이날 업무협약을 통해 칸막이를 없앤 4자 공동협력체계를 구성해서 통합지원에 나서게 된다.

주요 내용은 ①‘스쿨핫라인(School Hotline)’ 구축을 통한 학교 내 딥페이크 성범죄 신속 대응 및 학교로 찾아가는 상담‧지원 ②딥페이크 피해 최소화를 위한 시-검찰-경찰 피해정보 신속 연계 ③딥페이크 등 아동‧청소년 디지털성범죄 예방 및 재발방지 교육 등이다.
첫째, 학교 내에서 범죄‧피해사실이 확인될 경우 학교에서 서울시로 신속하게 연계할 수 있는 ‘스쿨핫라인(School Hotline)’을 가동한다.

기존에는 피해자인 학생 당사자가 피해 상황을 감당하고 대응해야 했다면, 이제는 교사나 학교 전담경찰관(SPO)을 통해 서울 디지털성범죄 안심지원센터에 의뢰하면 피해 사진‧영상물을 신속하게 삭제 지원한다. 서울청에서는 학교전담경찰관(SPO)의 사전 교육을 통해 신속하게 학교 내 범죄정보를 수집하고 피해자 발견 시, 서울 디지털성범죄 안심지원센터(운영: 서울여성가족재단)로 연계한다.

또한, 피해학생이 직접 상담소 등으로 찾아가는데 부담을 느끼는 경우 피해 학생의 요청에 따라 서울 디지털성범죄 안심지원센터 피해지원관이 학교 또는 제 3의 장소로 찾아가 영상물 삭제지원 등 필요한 도움을 주는 ‘학교로 찾아가는 원스톱 통합지원’도 운영한다.

서울 디지털성범죄 안심지원센터의 피해지원관이 1:1로 피해 아동·청소년에게 필요한 심리상담, 법률, 의료 서비스를 제공하며, 전문적인 심리치료가 필요할 경우 부모와 함께 10회기의 전문 상담을 지원한다.

둘째, 검‧경찰 사건의 경우 딥페이크 피해를 최소화하기 위해 ‘시-검·경찰간 전달체계를 마련, 피해정보를 신속하고 안전하게 전달해 즉시 삭제에 나선다. 기존에는 검·경찰이 확보한 피해 영상물을 서울 디지털성범죄 안심지원센터의 피해지원관이 직접 가서 받아오는 방식이었다면, 이번 업무협약을 계기로 ’25년부터는 시스템을 통해 안전하고 신속하게 양측 기관에서 영상물을 전달할 수 있게 된다. 이를 통해 수사 과정상 발견한 대량의 피해 영상물을 더욱 신속하고 안전하게 삭제 지원할 수 있을 것으로 기대된다.

셋째, 청소년 가해자의 96%가 딥페이크 성범죄의 심각성을 인지하지 못하고 ‘놀이’나 ‘장난’으로 여기고 있는 인식이 딥페이크 성범죄 확산을 키운 요인의 하나로 보고 이런 인식을 개선하기 위한 예방 교육에도 나선다.

서울시와 서울시교육청, 서울경찰청이 공동으로 초·중·고등학교 딥페이크 집중 교육자료를 제작하고, 학생과 학부모를 대상으로 교육을 실시할 계획이다. 교육수료자를 대상으로 ‘내 친구 지킴이’ 5,000명을 양성해 또래 집단의 딥페이크에 대한 경각심을 키우도록 할 예정이다.

또한, 딥페이크 예방교육과 함께 서울 시내 1천3백여 개의 학교, 시립청소년시설들과 협력해 '스톱! 딥페이크(STOP! DEEPFAKE)' 캠페인을 추진해 어릴 때부터 딥페이크의 위험성을 알리는 사회 분위기를 조성하고자 한다.

아울러, 서울중앙지검, 서울경찰청은 딥페이크 수사를 강화하고, 아동·청소년 수사 시 서울시 상담원이 동행해 피해자 보호 및 지원을 도모한다. 아동·청소년 딥페이크 가해자의 경우 서울검찰청 연계를 통해 서울시에서 딥페이크 가해자 재발방지 상담(1인 14회기)를 무료로 진행해 딥페이크 재발을 방지하고자 한다.

한편, 서울 디지털 성범죄 안심지원센터에 접수된 딥페이크 피해자의 경우 22년도 10명, 23년도 17명이었던 피해자가 24년도에 304명으로 2년 새 2,940% 증가했다.

총 331명의 피해자 중 10대는 121명(36.6%)으로 가장 많았으며, 20대는 108명(32.6%)으로 10~20대가 전체 피해자의 69.2%(229명)을 차지했다.

가해자 역시 10대가 27명(31.4%)으로 가장 많았으며, 20대는 6명(7%)를 차지해, 청소년의 딥페이크 범죄 행위가 심각함을 알 수 있다. 파악된 가해자와 피해자의 관계는 친구 31명(34.4%), 모르는 사람 24명(27.0%), 채팅상대와 애인 관계가 각 3명(3.3%)순으로 나타났으며 관계를 알 수 없는 경우가 22명(27.0%)이었다.

센터에 연계된 피해자는 주로 경찰, 검찰 등 수사기관을 통해 연계됐으며(269명, 81.0%), 본인이 직접 센터로 요청한 경우는 32명(9.6%)이며, 10대 피해자의 비율이 높아 부모를 통한 지원요청도 18명(5.4%)인 것으로 나타났다.

서울시는 딥페이크 문제의 심각성을 인식하고 지자체 최초로, 방송통신심의위원회와 핫라인을 구축하여 24간 삭제지원 시스템을 가동하고 있다. 또한 쉽고 빠르게 익명으로 상담받을 수 있는 딥페이크 전용 상담창구(검색 : ‘디지털성범죄 SOS 상담 창구’)를 카카오톡 채팅방에 개설했으며, ’25년도에는 얼굴매칭 딥페이크 검출 기술인 ‘서울 안심 아이(Seoul Safe Eye)’를 개발·적용할 계획이다.

딥페이크 피해로 고통받는 아동·청소년이나 성인은 ‘서울 디지털 성범죄 안심지원센터’를 통해 고소장 작성부터 삭제지원, 심리상담, 법률, 의료지원에 이르는 원스톱 지원을 받을 수 있다.

오세훈 서울시장은 “우리 사회의 미래인 아동·청소년을 성범죄로부터 보호하고 그 피해를 최소화하는 노력은 아무리 강조해도 지나치지 않는다”며, “이번 업무협약으로 행정, 사법, 교육, 수사기관을 망라한 4자 협력체계를 가동해서 예방 교육부터 피해 영상물 삭제‧차단, 피해자의 빠른 일상 회복까지 통합대응체계를 구축한다. 딥페이크 범죄로부터 아동‧청소년을 지켜내는 사회적 방파제가 되도록 최선을 다하겠다.”고 말했다.