AI가 불법촬영물 24시간 자동 추적, 신고 즉시 삭제 지원한다

나도 모르게 내 영상이 인터넷에 퍼졌을 때 AI가 24시간 감시하고 삭제를 지원한다. 정부가 디지털성범죄 피해자를 위해 AI 기반 자동 삭제 지원 시스템을 도입해 대응 속도를 크게 높인다. 최근 급증하는 딥페이크 영상까지 신속하게 잡아낸다.

정부는 AI를 활용해 SNS, 랜덤채팅앱 등에서 아동과 청소년 대상 성착취 정보를 365일 24시간 자동으로 탐지한다. AI가 유해 게시물을 1차로 선별하면 전문 인력이 즉시 검토해 플랫폼 사업자에게 삭제를 요청하는 방식이다. 기존에 사람이 직접 하던 감시 업무를 자동화해 피해를 조기에 발견하고 선제적으로 대응할 수 있다.

만약 디지털성범죄 피해를 입었다면 즉시 ‘중앙 디지털성범죄피해자지원센터(d4u.stop.or.kr)’에 신고해야 한다. 센터는 AI 기술이 적용된 삭제지원시스템을 통해 피해 영상이 어디로 퍼졌는지 자동으로 파악하고 신속하게 삭제 절차를 진행한다.

특히 이번에 도입된 시스템은 딥페이크 이미지 여부를 판별하는 기능까지 갖췄다. 생성형 AI를 이용한 신종 범죄에도 효과적으로 대응할 수 있다. 삭제 요청부터 실제 삭제 여부 확인까지 모든 과정이 자동화되어 피해자 지원에 걸리는 시간이 크게 단축된다.

가장 중요한 것은 주변의 관심과 적극적인 신고다. 온라인에서 아동·청소년 성착취물 등 의심스러운 콘텐츠를 발견하면 즉시 신고해야 한다. 빠른 신고가 더 큰 피해 확산을 막는 가장 확실한 방법이다.