"가상인간을 가장 잘 만드는 회사가 딥페이크 탐지를 가장 잘 한다고 할 수 있습니다. 그간 인공지능(AI) 휴먼을 만들면서 축적한 데이터를 딥페이크를 정확히 탐지하는 데도 활용합니다."

장세영 딥브레인AI 대표는 최근 서울 강남구 사옥에서 아주경제와 만나 자사 가상인간(버추얼 휴먼·AI 휴먼) 기술력을 통해 신속하고 정확하게 딥페이크에 대응해 나가겠다고 강조했다.

그간 가상인간과 같은 대화형 AI에서 두각을 보여 온 딥브레인AI는 최근 '딥페이크 탐지 솔루션'으로 주목받고 있다. 해당 솔루션은 딥페이크로 의심되는 영상을 시스템에 업로드하면 즉각 진위 여부를 판별해 결과를 제공하는 방식이다. 올해 하반기 들어 딥페이크 성착취물이 사회적 문제로 떠오르면서 이에 대응할 수 있는 기술을 갖춘 업체들에 대한 관심이 늘어났고 딥브레인AI도 그중 한 곳이다.

지난 8월 말부터 텔레그램 등을 중심으로 딥페이크 성착취물이 광범위하게 유포됐다는 사실이 본격적으로 사회적 문제로 떠올랐다. 장 대표에 따르면 이 시기 국가·공공기관, 학교 등을 중심으로 딥페이크 탐지 솔루션에 대한 요청이 많이 늘었다. 그야말로 불이 날 정도로 회사에 관련 전화가 많이 왔다고 한다. 당장 상용화할 수 있는 딥페이크 대응 솔루션이 부족했던 상황에서 딥브레인AI는 지난 8월부터 딥페이크 탐지 솔루션을 기업, 관공서, 교육기관 등을 대상으로 1개월간 무료 지원하기로 했다. 가격 문제로 딥페이크 대응을 제대로 하지 못하는 경우가 생길 수도 있다는 생각에 이 같은 결정을 내렸다.

장 대표는 "경찰의 경우 수사 과정에서 탐지를 정교하게 하기 위해 저희 솔루션을 활용할 수 있고, 학교 역시 학생들이 실제 딥페이크 영상으로 인한 피해를 입었는지 여부를 판단하는 과정에서 탐지 기술이 필요하다"며 "최근에는 국립과학수사연구원(국과수)에도 솔루션을 공급하고 있으며 은행 등 금융사들을 중심으로 기업에서도 솔루션 관련 연락이 많이 오고 있다"고 설명했다.

딥브레인AI는 자체 AI 기술을 활용해 딥페이크 영상을 탐지한다. 딥페이크와 관련된 데이터를 수집해 AI 모델에 입력을 시키는데, 이때 원본과 가짜 간 미세한 차이에 대한 패턴도 AI 모델이 함께 학습한다. 이러한 데이터를 대량으로 학습하면 다양한 딥페이크 영상에 대한 탐지가 가능하게 된다는 설명이다.

데이터는 기본적으로 인터넷상에 공개된 것이 기반이다. 딥페이크 연구 초반에는 한국인터넷진흥원(KISA) 등의 딥페이크 데이터 구축 사업에 참여해 기반을 쌓기도 했다. 이에 더해 회사에서 가상인간을 만드는 과정에서의 얼굴 데이터를 활용하기도 한다. 장 대표는 "딥페이크 탐지 데이터도 기본적으로는 얼굴"이라며 "자체 모델이 100명 정도 있는데, 가상인간은 선 하나만 잘못돼도 자연스럽지 않기 때문에 이를 세심하게 살핀다. 이러한 경험과 노하우가 딥페이크 탐지에도 도움이 되고 있다"고 말했다.

장 대표에 따르면 기존에는 단순 '페이스 스와프(얼굴 변환)' 방식의 딥페이크가 많았지만, 생성 AI의 활성화 속 이를 활용한 딥페이크가 급격히 늘어나는 추세다. 딥브레인AI 역시 이를 인식하고 있다. 장세영 대표는 "생성 AI 기술을 활용한 딥페이크의 급증은 1년도 채 되지 않았지만 증가세가 매우 빠르다"며 "기존 페이스 스와프 방식 딥페이크의 경우 주로 얼굴을 합성한 부분에 이질감이 생기기 때문에 얼굴을 중심으로 탐지하는 반면, 생성 AI를 활용한 딥페이크는 얼굴뿐만 아니라 영상 전체를 생성하기 때문에 생성했을 때 나타나는 패턴을 찾아내는 방식으로 탐지한다"고 설명했다.

그는 "최근 생성 AI뿐만 아니라 기존 방식인 페이스 스와프나 합성 비디오도 폭발적으로 증가하는 추세고 앞으로도 이 같은 경향은 이어질 것이기 때문에 이에 대응하는 새로운 기술이 필요하다"며 "저희 입장에서는 1차적으로 딥페이크 탐지가 잘 돼야 하고, 수많은 딥페이크 영상들을 어떻게 대규모로 빠르게 처리할 것인지, 이를 위한 안정적인 시스템을 어떻게 구축할 것인지에 대해 준비하고 있다"고 말했다.

이를 위해 회사 측은 데이터 학습 과정에서의 머신러닝·알고리즘을 지속적으로 개선하고, 생성 AI 등 꾸준히 새로운 유형의 딥페이크 데이터를 학습해 시시각각 나타나고 있는 다양한 방식의 딥페이크에 대응한다. 나아가 오는 11월 열리는 기술 콘퍼런스에서는 딥페이크 영상을 예방할 수 있는 솔루션도 공개할 예정이다. 사후 탐지에서 사전 예방으로 확장해 나가는 것이다.

인터뷰 중 장 대표는 딥페이크 성착취물의 시급성에 비해 정부의 딥페이크 대응 관련 예산이 전반적으로 부족하다며 아쉬움을 표했다. 그는 "현실적으로 예산이 부족하다 보니 딥페이크 대응을 제대로 하지 못하는 경우도 많고, 내년에 예산이 늘어난다고 하더라도 결과적으로 올해 난 사고를 내년에 대응하는 상황이 될 수 있다"며 "좀 더 신속한 대응이 필요하다고 본다"고 언급했다.

딥페이크 부작용 속 AI 규제 강화 움직임이 일고 있는 분위기에 대해서는 최우선 순위를 관련 산업 진흥으로 해야 한다는 점을 잊지 말아야 한다고 강조했다. 장 대표는 "AI에 부작용이 있다고 해서 AI 산업의 발전을 막을 수는 없다"며 "기술적인 장치들을 통해 부작용을 보완하되 AI 산업의 발전은 계속해서 지향해야 한다"고 강조했다. 장 대표는 "AI 아바타나 AI 휴먼만 해도 한국 외에 미국·영국 등의 기업이 열심히 하고 있는 상황"이라며, 시장 경쟁이 치열한 상황에서 규제가 자칫 발목을 잡을 수 있다는 점을 우려했다.