유튜브에도 범람하는 생성 AI발 가짜 정보…구글 "원칙 따라 대응할 것"

장 자크 사헬 구글 아시아·태평양 지역 콘텐츠 정책 총괄 [사진=구글]

구글이 최근 유튜브 내 급증하고 있는 생성 인공지능(AI)을 활용한 콘텐츠에 대해 유해 콘텐츠를 관리하기 위한 기존의 원칙을 동일하게 적용하겠다고 밝혔다.

장 자크 사헬 구글 아시아·태평양 지역 콘텐츠 정책 총괄은 27일 서울 강남구 구글코리아 사무실에서 열린 '구글 디코드' 세션에서 "생성 AI 콘텐츠와 관련해서 큰 책임감을 느끼고 유관 작업을 책임감 있게 진행하고 있다"라며 "정책을 수립해 꾸준히 집행해 왔다"라고 말했다.

생성 AI가 다양한 분야에서 대세로 떠오르면서 이를 활용한 텍스트·이미지·영상 등의 콘텐츠도 급증하고 있다. 문제는 이로 인해 진짜처럼 꾸며진 가짜 정보들이 급격히 확산될 위험성도 커졌다는 것이다. 이를테면 최근 SNS를 통해 퍼진 도널드 트럼프 전 미국 대통령의 체포 사진은 생성 AI로 제작된 가짜 사진이다. 여기에 챗GPT 등으로 만들어진 그럴듯한 가짜뉴스 스크립트까지 결합될 경우 가짜 정보가 퍼지는 문제는 더욱 심각해질 수 있다는 우려가 나온다.

생성 AI로 이미지·동영상 등을 쉽게 만들 수 있다 보니 비슷한 콘텐츠가 대거 유통되기도 한다. 최근 유튜브에는 AI로 제작한 젊은 여성의 이미지를 활용한 각종 영상을 쉽게 찾아볼 수 있다. 'AI 룩북' 등의 이름으로 유통되는 이들 영상마다 조회수가 수천 내지 수만 건에 달한다. 인기 유튜버의 콘텐츠를 생성 AI 기술로 베끼기도 한다. 다양한 AI 프로그램을 활용해 바탕이 되는 영상 대본을 추출하고, 이를 토대로 스크립트를 작성한 뒤 베낀 영상을 유튜브에 올려 조회수 등을 확보하는 방식이다. 

관련기사

• 구글, 제미나이 라이브 언어 옵션에 한국어도 추가
• 美중국특위 "구글·애플서 틱톡 내보낼 준비 해야"

이처럼 생성 AI 콘텐츠로 인한 부작용이 커지면서 콘텐츠가 유통되는 주요 플랫폼인 유튜브에도 이러한 부분에 대한 대응책이 필요하다는 지적이 나오고 있다. 이에 대해 사헬 총괄은 "새로운 기술 발전을 위한 긍정적인 측면도 분명히 있지만, 기술 발전의 초기 단계에 있다 보니 이러한 문제점들이 나타나는 것 같다"라며 "(이에 대응하기 위해) 머신러닝 기술을 활용할 뿐 아니라 시스템과 프로세스를 구축하고, 인력들도 트레이닝해 유해 콘텐츠에 대응하기 위한 많은 노력들을 전개하고 있다"라고 말했다.

즉 생성 AI로 만든 모든 콘텐츠를 제재할 수는 없지만, 만일 이로 인해 유해 콘텐츠가 만들어질 경우 기존 원칙에 따라 엄정하게 대응하겠다는 것이다. 사헬 총괄은 "AI 기반의 테크놀로지들이 발전한다 할지라도 과거에 했었던 것처럼 꾸준히 콘텐츠에 대한 노력을 하게 될 것이고 콘텐츠 관리와 주제에 대해서 저희가 많은 노력을 그대로 경주해 나갈 것"이라며 "유해한 부분은 엄격하게 다뤄야겠지만 신기술이 제공하는 기회는 활용할 수 있게끔 도전과제와 기회 양쪽을 모두 잘 활용해 나가겠다"고 언급했다.

이날 구글은 유튜브·구글 플레이 등 자신들이 관리하는 플랫폼에서 유해 콘텐츠를 얼마나 잘 제한하는지 설명하는 데 초점을 맞췄다. 사헬 총괄은 "현재 구글에는 2만명 이상의 인력이 구글 플랫폼에서 콘텐츠 검토·삭제 업무를 수행하고 있으며 한국어를 포함해 여러 언어에 능통한 검토자들이 업무에 참여하고 있다"며 "이들은 전 세계에서 법적 사유로 인한 삭제 요청과 신고를 24시간 신중하게 검토하고 처리한다"고 말했다.

유해정보 파악에는 구글의 머신러닝 기술이 쓰인다. 사헬 총괄에 따르면 지난해 4분기 삭제된 유튜브 영상의 94% 이상이 머신러닝에 의해 먼저 감지됐다. 이 중 71% 이상이 삭제되기 전에 조회수 10회 이하를 기록했다. 사헬 총괄은 "머신러닝을 도입해 콘텐츠 관리 검토에 관련돼 있는 수많은 작업들을 진행해 나가면서 회사가 파악하는 탐지 확률을 높였고, 유저들의 보호 조치도 강화시켜 나갈 수 있었다"라고 언급했다.

이를 토대로 구글은 기본적으로 사업을 운영하는 각 국가의 법률을 준수하고 문화·역사적 특수성을 고려해 해당 국가의 구글 플랫폼에서 불법 콘텐츠를 삭제하고 있다는 입장이다.