2022년 대선에서는 딥페이크 영상을 이용한 선거운동이 가능하게 됐다. 중앙선거관리위원회가 발표한 '딥페이크 영상 관련 법규운용 기준'에 따르면 딥페이크 영상임을 표시하고, 특정 후보자 당락을 목적으로 허위사실 공표나 비방을 하지 않으면 후보 목소리와 얼굴을 합성한 영상으로 선거운동이 가능하다.

딥페이크란 심층학습(Deep learning)과 가짜(Fake)의 합성어로, 인공지능(AI)을 이용해 인물 모습이나 목소리를 합성하는 영상 제작 기법이다. 이를 통해 기존 영상에 다른 인물의 모습과 목소리를 덧씌우는 것은 물론, 완전히 새로운 영상을 생성하는 것이 가능하다.

앞서 국내에서도 AI로 제작한 홍보용 영상이 등장하자, 더불어민주당 의원 16인은 후보를 판단하는 데 있어 잘못된 근거를 제공할 수 있다며 중앙선거관리위원회에 철저한 관리를 촉구하는 성명서를 낸 바 있다.

하지만 선관위는 딥페이크 기술을 이용하는 것만으로는 위법이 아니라고 이번 기준을 통해 밝혔다. 또 딥페이크 영상 역시 일반 영상과 동일하게 분류하고, 선거운동을 할 수 있는 사람이 소셜미디어나 메신저 등으로 영상을 전송하는 행위도 허용한다. 다만 딥페이크 영상이 실제 후보자로 오해되거나 허위사실이 있을 경우 허위사실 공표죄에 해당할 수 있다는 입장이다.
 

세부적인 기준을 살펴보면 우선 후보자나 제3자가 후보자 영상과 음성을 합성한 딥페이크 이미지나 영상을 만들 경우, 반드시 딥페이크라는 사실을 표시해야 한다. 물론 제3자가 동의 없이 영상을 제작하면 성명 등의 허위표시죄에 해당하므로 위법이다.

실제 후보자보다 더 나은 모습을 딥페이크 영상에 활용하는 것도 가능하다. 단순히 좋은 영상을 사용했다고 해서 정확한 판단을 그르치게 하는 허위사실이 아니라는 설명이다.

후보자 본인이나 제3자가 딥페이크 영상을 게시해 선거운동을 하는 경우 법적 책임은 영상 게시자에게 있다. 다만 제3자가 후보와 사전협의 등 형법상 공모관계가 성립한다면 후보자에게도 책임이 주어진다. 특히 정당 선거대책기구가 이러한 영상을 제작해 유포했을 때 법적 문제가 생긴다면, 이는 공모관계로 볼 수 있다.

공직선거법 59조에 따라 선거운동을 할 수 있는 사람은 딥페이크 영상을 인터넷 홈페이지, 소셜미디어, 카카오톡, 문자메시지 등 다양한 형태로 영상을 게시 혹은 전송할 수 있다. 또한 후보자는 동법 제70조에 따라 선거운동을 위한 방송광고에도 딥페이크 영상을 사용할 수 있으며, 공개된 장소에서 자동차 확성기, 녹화기 등의 장비를 이용해 송출하는 것도 가능하다.

다만 제71조에 해당하는 방송연설을 할 때는 후보자 대신 딥페이크 영상을 사용할 경우 선거법 위반에 해당한다. 공직선거법에서는 방송연설의 주체를 후보자 본인으로 규정하기 때문에 딥페이크 영상이 대신 나설 수 없다.

향후 AI 기술 발전으로 딥페이크 영상에 대화형 AI가 적용될 가능성도 있다. 이 경우 후보가 아닌 AI가 후보 모습으로 직접 소통하게 된다. 중앙선거관리위원회는 이를 법으로 제한하기 어렵다고 밝혔다. 공직선거법 제58조 제2항에 따르면 이 법에서 제한받는 경우를 제외하고는 누구든 자유롭게 선거운동을 할 수 있기 때문이다. 다만 딥페이크는 기술 악용 가능성이 크며, 후보 의지와 상관없이 편향된 데이터를 학습할 가능성도 있다. 이른바 데이터 포이즈닝이다. 때문에 AI 기술을 이용한 선거운동 허용 여부에 대해서는 입법 논의가 필요하다고 설명했다.
 

그간 딥페이크 기술에 대해 부정적인 인식이 컸다. 딥페이크가 논란이 된 사례로 대표적인 것은 유명인의 얼굴을 합성한 음란물이다. 특히 K팝 스타가 세계에서 인기를 끌면서 일부 국가에서는 기존 음란물에 이들의 얼굴을 합성해 유통하기도 했다.

뿐만 아니라 미국에서는 지난 2018년 배우이자 감독인 조던 필이 버락 오바마 미국 전 대통령 성대모사를 하고, 얼굴을 합성한 뒤 도널드 트럼프 당시 대통령을 조롱하는 영상을 제작하기도 했다. 이 때문에 딥페이크가 정치 분야에서도 악용될 가능성이 제기됐다. 이에 따라 글로벌 빅테크 기업은 딥페이크 탐지 기술은 물론, 가짜뉴스로 의심되는 영상을 찾는 기술 등을 개발하기도 했다.

하지만 딥페이크는 엔터테인먼트 분야에서 유용하게 쓸 수 있는 기술이다. 시간적·공간적으로 불가능한 장소에 특정 인물이 등장하게 해 재미를 줄 수도 있고, 지금은 볼 수 없는 옛 모습을 콘텐츠로 구현하는 것이 가능하기 때문이다.

가령 2019년 개봉한 영화 '터미네이터 다크페이트'에서는 전작 주연이었던 존 코너(에드워드 펄롱 분)의 20여년 전 모습을 만들기 위해 대역 배우의 연기에 얼굴을 합성하는 기술을 사용했다.

지난 2020년 12월 9일 방송된 Mnet 음악 프로그램, '다시 한번'에서는 힙합그룹 거북이의 멤버였던 고 임성훈씨(터틀맨)가 등장해 다른 멤버와 함께 12년 만에 완전체로 공연하는 모습을 방송하기도 했다. CJ올리브네트웍스는 딥페이크 기술인 '페이스 에디팅'을 이용해 과거 사진과 동영상 등 자료를 바탕으로 AI를 학습시킨 고인의 옛 모습을 재현하고, 생동감 있는 표정을 만들어냈다.

최근 데뷔한 디지털 휴먼 아이돌 그룹 '이터니티'에도 딥페이크 기술이 쓰였다. 여기에는 기존 인물의 얼굴을 합성하는 방법 대신, 생성적 적대 신경망이라는 AI 알고리즘을 이용해 호감을 주는 얼굴을 직접 생성·합성하는 방식을 사용했다.

이번 대선에서 딥페이크가 주목받은 이유 중 하나로, AI로 만든 후보는 실제 후보의 습관에서 나오는 행동을 하지 않는다는 점을 들 수 있다. 후보의 약점이 될 수 있는 행동을 예방할 수 있기 때문이다. 물론 딥페이크를 이용한 악의적 영상을 제작해 유포하는 것은 막아야 하지만, 엔터테인먼트 분야에서 활용 가능성은 이전보다 더 커질 전망이다.

딥페이크 기술은 꾸준히 발전 중이다. 해당 기술에 대한 이야기가 처음 나왔을 때는 기존 영상물에 얼굴만 합성하는 방식이었다면, 이제는 몸이나 배경까지도 인공지능으로 생성할 수 있는 단계에 이르렀다. 향후 대화형 AI를 접목하게 되면 딥페이크를 통한 팬미팅이나 매장 안내 등 다양한 형태의 서비스가 등장할 것으로 예상된다.