AI 기반 아동·청소년 온라인 성착취 선제적 대응시스템 개요
아동과 청소년을 노리는 온라인 성착취 범죄가 날로 지능화되고 있다. 기존의 수동 감시와 사후 대응만으로는 피해 확산을 막기에 역부족이었다. 정부가 이 문제 해결을 위해 인공지능(AI) 기반 선제 대응 시스템을 구축했다. 이제 AI가 24시간 온라인 공간을 감시하며 성착취 징후를 사전에 포착하고 피해 발생을 막는다.
정부는 최근 ‘AI 기반 아동·청소년 온라인성착취 선제적 대응 시스템’을 개발했다. 이 시스템은 크롤링 알고리즘을 이용해 소셜미디어, 랜덤채팅앱 등에서 아동·청소년을 대상으로 한 성착취 유인 행위나 성착취물을 24시간 내내 자동으로 탐지한다. AI가 유해성을 분석해 선별한 게시물은 검토 후 즉시 플랫폼 사업자에게 신고 및 삭제 요청 조치가 이루어진다. 기존 인력이 직접 검색하던 방식에서 자동화된 체계로 전환된 것이다.
피해 영상물 삭제 지원 시스템 역시 고도화된다. 기존에는 직원이 유포된 영상물을 찾아 수동으로 삭제를 요청하고 처리 여부를 확인했다. 이제는 피해 영상물의 고유값(DNA)을 자동으로 검출하고 성인 사이트 등을 크롤링해 유포 현황을 파악한 뒤 삭제 요청과 모니터링까지 자동화한다. 이를 통해 직원의 업무 부담을 줄이고 삭제 지원 속도를 대폭 높인다.
특히 최근 심각한 문제로 떠오른 딥페이크 범죄 대응 기능도 강화된다. 생성형 AI를 이용한 허위 영상물을 판별하는 딥페이크 탐지 솔루션을 도입한다. 이를 통해 딥페이크 이미지 여부를 식별하고 생성 도구와 유포 이력까지 추적해 신속한 삭제를 지원한다. 더 나아가 관련 부처 간 협력을 통해 AI 악용 범죄를 막기 위한 법과 제도 마련에도 힘쓰고 있다.
이번 시스템 도입으로 디지털 성범죄 대응 체계가 사후 지원에서 사전 예방 중심으로 전환된다. 온라인 성착취 징후를 신속하게 탐지하고, 유포된 영상물의 삭제 속도를 높여 피해 확산을 최소화한다. 특히 딥페이크 등 신종 범죄에도 효과적으로 대응할 수 있는 기반을 마련했다. 기술과 제도가 함께 발전하며 더 안전한 디지털 사회를 구현할 것으로 기대된다.
About the Author
