정부, AI 딥페이크 탐지모델로 성범죄 영상물 공동 대응

행정안전부 보도자료에 따르면 행정안전부와 성평등가족부, 방송미디어통신위원회는 25일 정부서울청사에서 ‘딥페이크 성범죄 대응 기술협력을 위한 업무협약’을 체결했다. 세 기관은 행안부와 국립과학수사연구원이 협업해 개발한 AI 딥페이크 탐지·분석모델을 피해영상물 대응 현장에 활용하기로 했다.

이번 협약은 생성형 AI 기술 발전으로 딥페이크 성범죄가 정교해지고, 피해영상물이 온라인에서 빠르게 확산되는 상황에 대응하기 위한 조치다. 정부는 AI 탐지·분석모델을 관계기관과 공유해 피해영상물 탐지와 분석, 삭제·차단, 피해자 보호 절차를 연결한다는 계획을 밝혔다.

협약에 따라 세 기관은 AI 딥페이크 탐지·분석모델 공유와 활용, 피해영상물 탐지·삭제·차단 절차 연계, 2차 피해 방지를 위한 정보보호와 보안조치에 협력한다. 행안부는 모델을 지속적으로 고도화해 관계기관이 활용할 수 있도록 제공하고, 성평등가족부는 기존 민간 탐지모델과 정부 모델을 함께 활용해 피해영상물과 의심 콘텐츠 분석 및 삭제 지원에 나선다.

방송미디어통신위원회는 딥페이크 성범죄 의심 콘텐츠의 온라인 유통에 대응하고 플랫폼 사업자와의 삭제·차단 협력체계를 강화한다. 정부는 앞으로 피해영상물이나 의심 콘텐츠가 접수되면 AI 모델로 1차 탐지·분석을 실시하고, 그 결과를 삭제·차단 및 피해자 지원 절차와 연계할 방침이다.

이번 발표는 AI가 만든 피해를 AI 기반 분석으로 추적하고 대응하는 공공 절차가 성범죄 대응 영역까지 확대되고 있음을 보여준다. 다만 탐지모델의 현장 적용은 오탐·미탐 관리, 증거 처리 절차, 피해자 정보 보호, 플랫폼 협조 속도 같은 운영 기준이 함께 뒷받침돼야 한다. 기술 도입 자체보다 탐지 결과가 실제 삭제와 피해자 보호로 이어지는 시간이 핵심 지표가 될 가능성이 크다.

출처: 행정안전부 https://www.mois.go.kr/frt/bbs/type010/commonSelectBoardArticle.do?bbsId=BBSMSTR_000000000008&nttId=127207 · 대한민국 정책브리핑 https://www.korea.kr/news/policyNewsView.do?newsId=148967112