AI가 알아서 미성년자 성 착취물 삭제한다 / SBS / #D리포트

인공지능, 즉 AI를 이용해 아동·청소년 성 착취물을 자동 추적해 감시하는 기술이 개발됐습니다.

서울시가 서울연구원과 공동개발한 이 기술은 딥러닝을 이용한 '안면 인식'이 특징입니다.

영상 1,500개 분량을 학습하고 분석한 AI가 영상 속 얼굴의 성별과 나이를 판별하고, 얼굴이 나오지 않을 땐 영상 속 소품이나 활자, 청소년들이 주로 쓰는 언어 등도 함께 인식해 피해 영상물인지를 판별합니다.

덕분에 수작업으론 2시간 넘게 걸리던 업무 시간도 90초로 대폭 줄어들며 효율을 높였습니다.

[김준철/서울연구원 디지털도시연구실 : 앞으로는 좀 더 학습 데이터가 누적되면서 삭제 신고가 더 이뤄지기 때문에 더 많은 데이터를 갖고 학습을 진행하면서 모델은 진화해나가면서 정확도는 더 높아질 것…]

서울시가 집계한 최근 디지털 성범죄 피해 요청 현황에 따르면, 아동·청소년이 스스로 피해를 신고한 경우는 7.8%에 그쳤고, 삭제 조치한 전체 성 착취물 가운데 아동 청소년 스스로 삭제를 요청한 건 13.5%에 불과합니다.

이처럼 상대적으로 성인보다 신고를 꺼리는 아동 청소년 피해자의 특성에 맞게 AI를 이용해 미신고 영상까지 선제적인 감시와 조치가 가능한 것도 장점으로 꼽힙니다.

[문기현/서울디지털성범죄안심지원센터장 : 아이들의 경우에는 가장 꺼리는 게 부모님이 알게 될까 봐 그걸 가장 걱정을 해요. 그러다 보니 시간은 길어지고 유포는 빨리, 이미 되고 있고 이런 경우가 많습니다.]

전문가들은 개인정보를 악용해 '자기 촬영'을 유인하는 디지털 성착취물 범죄가 더욱 늘고 있는 만큼, 아동 청소년에게 디지털 에티켓과 리터러시 교육을 확대하는 등의 예방 조치도 필요하다고 설명했습니다.

(취재 : 신용식 / 영상편집 : 원형희 / 제작 : 디지털뉴스편집부)

☞더 자세한 정보
https://news.sbs.co.kr/y/?id=N1007656567

☞[뉴스영상] 기사 모아보기
https://news.sbs.co.kr/y/t/?id=10000000121

#SBS뉴스 #뉴스영상 #ai

▶SBS 뉴스 채널 구독하기 : https://n.sbs.co.kr/youtube

♨지금 뜨거운 이슈, 함께 토론하기(스프 구독) : https://premium.sbs.co.kr

▶SBS 뉴스 라이브 : https://n.sbs.co.kr/youtubeLive , https://n.sbs.co.kr/live

▶SBS 뉴스 제보하기
홈페이지: https://n.sbs.co.kr/inform
애플리케이션: 'SBS뉴스' 앱 설치하고 제보 - https://n.sbs.co.kr/App
카카오톡: 'SBS뉴스'와 친구 맺고 채팅 - https://pf.kakao.com/_ewsdq/chat
페이스북: 'SBS뉴스' 메시지 전송 - https://www.facebook.com/sbs8news
이메일: sbs8news@sbs.co.kr
문자 #누르고 6000
전화: 02-2113-6000

홈페이지: https://news.sbs.co.kr/
페이스북: https://www.facebook.com/sbs8news
트위터: https://www.twitter.com/sbs8news
카카오톡: https://pf.kakao.com/_ewsdq
인스타그램: https://www.instagram.com/sbsnews

Copyright Ⓒ SBS. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지

Видео AI가 알아서 미성년자 성 착취물 삭제한다 / SBS / #D리포트 канала SBS 뉴스