방송통신심의위원회가 딥페이크 음란물 제작과 유포 사건이 확산하자 텔레그램은 물론 페이스북·엑스(X)·인스타그램·유튜브 등 글로벌 온라인 플랫폼 사업자들과 협의체를 구성하기로 했다.

방심위는 28일 이번 사태와 관련한 긴급 전체회의를 열고 이런 내용을 포함한 '딥페이크 성범죄 영상물 10대 종합대책'을 마련했다. 

종합대책을 보면 국내 주요 포털 사이트는 물론 글로벌 사업자들과 협의체를 구성하고, 신속한 영상 삭제 차단 조치와 자율적인 규제를 강력히 요청한다. 우선 해외에 서버가 있는 글로벌 온라인 플랫폼 사업체들 가운데 국내에 공식 협의체가 없는 사업체에 대해서는 면대면 협의 채널을 이끌어내 상시적인 협의가 이뤄지게 한다는 방침이다. 주요 유통수단으로 지적되고 있는 텔레그램을 시정요청 협력 대상에 공식 등재했다. 

보완 입법도 관계 기관에 건의하기로 했다. 현행 법과 심의 규정 미비로 디지털 성범죄 영상물 제작이나 소지, 유포 등에 대한 처벌이 미약해 관련 범죄가 확산하고 있다는 지적에 따른 것이다. 관련 전문가들과 협력해 보완 입법 이전에 할 수 있는 최대한의 심의 규정 보완도 강구할 계획이다. 

방심위는 사회관계망서비스(SNS) 대상 중점 모니터링, 24시간내 시정요구, 즉각 수사의뢰 등 '강화된 3단계 조치'를 통해 신속 구제에 나선다.

이미 전날부터 홈페이지에 딥페이크 성범죄 영상물 신고 전용 배너를 별도로 설치했다. 온라인 신고뿐 아니라 방심위 디지털 성범죄 전화 신고 기능도 강화해 상담원이 24시간 접수·상담할 수 있도록 했다.

딥페이크 성범죄 영상물의 주요 유포 경로인 SNS에 대한 자체 모니터 인원은 두 배 이상 늘려 불법 영상물을 신속하게 적발하는 데도 나선다. 향후 디지털 성범죄 전담 인력도 늘려갈 계획이다. 전자심의를 강화해 24시간 이내 삭제·차단이 될 수 있도록 시정을 요구하고, 악성 유포자는 즉각 경찰에 수사 의뢰할 방침이다.

류희림 방심위원장은 이날 모두 발언을 통해 "딥페이크 합성 기술을 악용한 디지털 성범죄 영상이 상식의 둑을 무너뜨리고 있다"며 "중·고등학교뿐 아니라 초등학교까지 유포됨으로써 우리 사회를 정조준해 위협하는 상황이 됐다"고 깊은 우려를 나타냈다. 이어 "딥페이크 성범죄 영상물 제작·소지·유포는 개인의 존엄과 인격권을 파괴하는 범죄"라고 지적하며 "국민도 엄중한 감시자 역할을 해 달라"고 당부했다.

한편 정부는 최근 딥페이크 범죄 피해 관련 예산도 대폭 확대했다. 과학기술정보통신부는 딥페이크 탐지 기술 고도화를 위해 내년도 예산 20억원을 투입한다. 적대적 생성 신경망(GAN) 방식의 딥페이크 탐지 고도화·생성 억제 기술 개발에 10억원, 자가진화형 딥페이크 탐지 기술 개발에 10억원을 편성할 예정이다.