방심위, 음란물에 얼굴 합성한 딥페이크 영상 52건 접속차단
2020-06-25 15:45
연예인 얼굴 합성한 딥페이크 영상도 천여건 추정
지인영상 합성한 '지인능욕' 영상도 공유
지인영상 합성한 '지인능욕' 영상도 공유
방송통신심의위원회가 국내 온라인 커뮤니티 등에서 공유되는 딥페이크(특정 인물의 얼굴과 신체를 인공지능(AI)으로 합성한 편집물) 영상 52건에 대해 시정요구(접속차단) 조치를 의결했다.
이번 방심위의 조치는 최근 온라인 커뮤니티 등에서 연예인이나 지인 얼굴을 음란물과 합성한 딥페이크 영상 확산으로 디지털 성범죄 피해가 발생하면서다.
그간 처벌규정이 부족해 음란물이나 명예훼손 요건이 충족되는 경우에만 규제할 수 있었다. 하지만, 지난 3월 딥페이크 등 허위 영상물의 제작·반포 행위를 처벌할 수 있도록 성폭력 처벌법이 개정됐다. 해당 법은 25일부터 시행됐다.
이에 따라 사람의 신체 등을 대상으로 한 영상물 등을 대상자의 의사에 반해 성적 수치심을 유발할 수 있는 형태로 편집한 경우 5년 이하의 징역 또는 5000만원 이하의 벌금에 처해진다. 영리목적으로 정보통신망을 이용해 배포하면 7년 이하의 징역에 처할 수 있다.
방심위는 개정법 시행에 맞춰 딥페이크 영상 배포여부에 중점적으로 모니터링을 실시했다. 이에 따라 25일 열린 디지털성범죄심의소위원회에서 불법 허위영상을 유통하는 디지털성범죄정보 52건에 대해 시정요구(접속차단)를 의결했다.
이날 시정요구한 정보는 우리나라 연예인의 영상을 음란한 영상과 합성해 '○○○ 딥페이크' 등으로 유통한 해외 딥페이크 전문 사이트나 소셜미디어 계정 등이다. 이들 사이트에 올려진 영상은 매우 정교해 실제와 구분하기 힘든 수준이다. 일부 사이트에서는 약 200여명에 달하는 연예인 허위영상 천여 건 이상이 유통되고 있다.
방심위는 또한 지인 영상을 음란한 형태로 편집해 제공한 '지인능욕' 합성정보도 확인했다. 해당 정보에는 피해자 이름과 나이, 거주지 등 개인정보도 함께 포함됐다.
방심위는 "디지털 성범죄 피해자 보호를 위해 접속차단이라는 시정요구와 함께 국제공조점검단을 통해 원 정보의 삭제를 추진했다"며 "허위영상물 제작과 유포행위를 막기 위해 경찰청 등 관계기관과의 공동대응도 강화하겠다"고 말했다.
이번 방심위의 조치는 최근 온라인 커뮤니티 등에서 연예인이나 지인 얼굴을 음란물과 합성한 딥페이크 영상 확산으로 디지털 성범죄 피해가 발생하면서다.
그간 처벌규정이 부족해 음란물이나 명예훼손 요건이 충족되는 경우에만 규제할 수 있었다. 하지만, 지난 3월 딥페이크 등 허위 영상물의 제작·반포 행위를 처벌할 수 있도록 성폭력 처벌법이 개정됐다. 해당 법은 25일부터 시행됐다.
이에 따라 사람의 신체 등을 대상으로 한 영상물 등을 대상자의 의사에 반해 성적 수치심을 유발할 수 있는 형태로 편집한 경우 5년 이하의 징역 또는 5000만원 이하의 벌금에 처해진다. 영리목적으로 정보통신망을 이용해 배포하면 7년 이하의 징역에 처할 수 있다.
방심위는 개정법 시행에 맞춰 딥페이크 영상 배포여부에 중점적으로 모니터링을 실시했다. 이에 따라 25일 열린 디지털성범죄심의소위원회에서 불법 허위영상을 유통하는 디지털성범죄정보 52건에 대해 시정요구(접속차단)를 의결했다.
이날 시정요구한 정보는 우리나라 연예인의 영상을 음란한 영상과 합성해 '○○○ 딥페이크' 등으로 유통한 해외 딥페이크 전문 사이트나 소셜미디어 계정 등이다. 이들 사이트에 올려진 영상은 매우 정교해 실제와 구분하기 힘든 수준이다. 일부 사이트에서는 약 200여명에 달하는 연예인 허위영상 천여 건 이상이 유통되고 있다.
방심위는 또한 지인 영상을 음란한 형태로 편집해 제공한 '지인능욕' 합성정보도 확인했다. 해당 정보에는 피해자 이름과 나이, 거주지 등 개인정보도 함께 포함됐다.
방심위는 "디지털 성범죄 피해자 보호를 위해 접속차단이라는 시정요구와 함께 국제공조점검단을 통해 원 정보의 삭제를 추진했다"며 "허위영상물 제작과 유포행위를 막기 위해 경찰청 등 관계기관과의 공동대응도 강화하겠다"고 말했다.
방송통신심의위원회 관제실 전경. [사진=방심위 제공]