유튜브, AI로 쇼츠 제작해도 딥페이크 악용 우려 없어

24일 서울 강남구 제이타워에서 ‘메이드 온 유튜브’ 관련 APAC 화상 설명회가 진행되고 있는 모습 [사진=한영훈 기자]

유튜브가 자사 쇼트폼(짧은 영상) 서비스인 '쇼츠'를 인공지능(AI)으로 제작할 수 있도록 해도 딥페이크(AI로 만든 진짜 같은 가짜 콘텐츠) 등 악용 우려는 없을 거라고 선을 그었다. 현재 준비 중인 자동 더빙 서비스 기능이 활성화되기까지는 좀 더 많은 시간이 걸릴 것으로 보인다.
 
유튜브는 24일 서울 강남구 제이타워에서 '메이드 온 유튜브' 관련 아시아·태평양(APAC) 지역 화상 설명회를 진행했다. 요하나 불리치 유튜브 최고 제품 책임자(CPO) 외에도 애론 필너 유튜브 제품 관리 부문 선임 제작자, 다니엘 더비 유튜브 제품 관리자 등이 참여했다.
 
이는 유튜브가 지난 18일(현지 시간) 미국 뉴욕에서 실시한 '메이드 온 유튜브' 관련 후속 설명회다. 이날 발표한 내용에 대한 세부 사항을 공유하기 위해 마련됐다.

 
이 행사에서 가장 주목받았던 건 구글의 동영상 생성형 AI 모델 '비오'다. 유튜브는 내년까지 자사 창작자(크리에이터)가 비오로 6초 분량의 쇼츠 영상을 만들 수 있도록 지원하겠다는 계획을 밝혔다. 창작자가 간단한 명령어를 입력하기만 해도, 해당 내용에 부합하는 영상을 생성·편집할 수 있다. 예컨대 '세렝게티 밀림을 가로질러 가는 코끼리 가족'이라고 쓰면, 이를 사실적으로 구현한 영상이 생성된다.
 

관련기사

• 푸틴 "알아보겠다" 한 마디에…러시아 내 유튜브 정상화
• 현대차그룹, 부상 군인들의 '10m 행군' 영상...한 달 만에 유튜브 1000만뷰

유튜브는 이러한 조치가 창작자의 편의성 개선에 직접적인 도움을 줄 수 있을 것으로 봤다. 하지만 동시에 업계에서는 딥페이크 등 악용 우려에 대한 의문을 제기했다. 이에 대해 유튜브 측은 이를 방지할 적절한 대응책을 갖춘 만큼, 사고로 이어질 가능성은 극히 적다고 단언했다. 비단 AI로 생성된 영상뿐 아니라, 유튜브에 노출되는 모든 영상이 동의 없는 성적 묘사 등의 내용을 포함하면 즉시 차단된다는 뜻이다.
 
관련 신고 절차도 마련했다. 요하나 불리치 CPO는 "만약 자신의 얼굴이나 목소리를 동의 없이 사실적으로 묘사하면 신고할 수 있는 창구를 구축했다"며 "영상 제작 최대 허용 범위를 6초로 제한한 것도 (악용을 막기 위한) 방안 중 하나"라고 설명했다.
 
비오의 학습 과정에는 유튜브 창작자가 공개한 콘텐츠가 활용된다. 만약 창작자가 동의하지 않으면 사용되지 않는다. 생성형 AI로 제작된 영상에는 이를 구별할 수 있는 워터마크(식별장치)를 부착한다. 이는 사람 눈으로는 확인할 수 없다. 대신 설명란에 ‘AI로 생성된 창작물’이란 걸 의무적으로 공개하도록 했다.
 
메이드 온 유튜브에서 주목받았던 또 다른 요인은 '자동 더빙 서비스'다. 영상 구독자가 자신이 원하는 언어를 선택하면, 해당 언어로 더빙한 음성을 지원한다. 만약 활성화되면 국가 간 언어 장벽이 사라지게 되는 셈이다. 현재 지원하는 언어는 스페인어, 포르투갈어, 프랑스어, 이탈리아어 등이다. 다만 추가 지원까지는 좀 더 시간이 필요할 것으로 보인다. 애론 필너 선임 제작자는 "(다른 언어와 관련해) 구체적으로 공유할 수 있는 부분은 현재로서는 없다"고 말했다.
 
유튜브는 창작자의 수익성 개선을 위해 '쇼핑 제휴 프로그램'도 운영한다. 콘텐츠 내에서 제휴사 제품을 소개해 수익을 창출할 수 있도록 한다. 유튜브 쇼핑은 지난 6월 도입됐고, 한국에선 쿠팡이 우선 제휴사로 참여했다.