[강시철의 AI 인문학] ㉒ AI가 만드는 '짝퉁 세상'이 시작됐다

[사진=게티이미지뱅크]

“아니, 분명히 지시하셨잖아요!” 상기된 얼굴로 경리과장이 대표에게 항변했다.
“내가 언제 25만 유로를 송금하라고 했단 말이오?” 대표가 소리쳤다.

사건의 전말은 이랬다. 유럽에서 보이스피싱범이 딥페이크(Deep Fake) 기술을 이용해 어떤 회사 대표의 목소리를 본떠 25만 유로를 특정 계좌로 송금할 것을 지시했다. 범인은 그 계좌에서 전액을 인출해 사라졌다.

딥페이크 기술은 인공지능(AI) 역사에서 중대한 개발로 평가된다. 2014년 AI 전공 박사과정 학생이었던 이안 굿펠로(Ian Goodfellow, 1985~)는 학우의 박사학위 취득을 축하하는 자리에서 ‘AI가 스스로 이미지를 만들게 할 수 있을까’를 주제로 이야기를 나눴다. 당시 AI 연구자들은 그럴듯한 이미지를 스스로 만드는 ‘생성적’ 알고리즘를 사용하고 있었지만 그 결과는 좋지 않았다. 컴퓨터가 생성한 이미지는 흐릿하거나 코가 없는 얼굴을 내놓았다. 굿펠로는 취중에 ‘두 개의 신경망이 서로 경쟁하게 한다’는 아이디어를 떠올리고 귀가 후 몇 시간 동안 구현한 코드를 실행했다. 오늘날 ‘생성적 적대 신경망(GAN)’이라 불리는 기술이 개발된 것이다.
 

창조하는 기계 탄생시킨 ‘GAN’

GAN은 두 개의 인공 신경망이 서로 경쟁하는 관계로, 하나의 인공신경망은 더 진짜 같은 가짜를 만드는 ‘생산’에 집중하며, 다른 하나는 그 진위를 ‘판별’하는 데 집중한다. 진짜 같은 결과물이 생성됐다고 평가될 때 두 신경망의 경쟁이 끝난다. 굿펠로는 그의 논문(Generative Adversarial Network, 2014)에서 GAN을 지폐 위조범과 경찰에 비유했다. 지폐 위조범(Generator)은 더욱 교묘하게 속이려고 하고 경찰(Discriminator)은 이렇게 위조된 지폐를 감별(Classify)한다. 따라서 양쪽 모두 점진적으로 속이고 감별하는 서로의 능력을 발전시켜 진짜보다 더 진짜 같은 이미지, 동영상, 음성이 만들어지는 것이다.

관련기사

• 강시철 박사 "'메타헬스'로 의료경계 허물 것"
• 강시철 박사의 'AI 빅히스토리 10의 22승'

GAN의 등장으로 AI는 스스로 무언가를 창조해 내는 기계가 됐다. 이 기술은 AI 기술 분야 중 ‘비지도학습’이라 불리는 분야에 큰 혁신을 몰고왔다. GAN 덕분에 자율주행차는 주차된 상태에서도 매우 다양한 도로 조건을 학습할 수 있게 되었고 로봇은 현실 세계에 있는 복잡한 창고를 돌아다니지 않고도 그곳에 혼재한 장애물을 회피하는 능력을 가지게 되었다. 우리는 다양한 상황을 상상하고 추측하는 능력은 인간의 고유 능력이라고 자부했다. 그런데 GAN의 등장으로 기계도 인간처럼 의식의 일부 영역을 갖게 된 것이다.

페이스북은 GAN을 이용해 Real-eye-opener라는 이미지 편집 솔루션을 서비스하고 있다. 찍는 순간 눈을 감아 망친 사진 속에 가짜 눈을 생성해 눈을 뜨고 있는 사진으로 만들어주는 기술이다. 이 놀라운 기술은 Image translation 기술로 업그레이드되기도 했다. 이 기술은 흑백사진을 컬러사진으로, 간단한 일러스트를 구체적인 사진으로 만들어내는 등 우리가 원하는 대로 이미지를 바꾸어 재창조한다. GAN은 음성신호 및 자연어 처리 등 다양한 분야에 응용되어 빠르게 발전하고 있다.

그러나 굿펠로는 지금 그의 기술을 나쁜 목적으로 사용하는 사람들과 싸우는 데 상당한 시간을 보내고 있다고 한다. GAN을 이용해 진짜 같은 가짜 이미지를 만드는 딥페이크(Deep Fake)라는 괴물을 만들어 냈기 때문이다. 딥페이크는 딥러닝(Deep Learning)과 페이크(Fake)의 합성어로 GAN 기술을 이용해 특정인의 신체 부위나 얼굴을 합성하는 편집물이다. 딥페이크를 이용하면 가짜뉴스를 만들어 선거 판세를 뒤집을 수 있다. 불법 포르노 영상에 K-팝 여가수 얼굴을 합성한 영상이 유통된 사건도 있다. 안면인식으로 보안을 하는 출입문이 많은 요즘 얼굴 합성 기술은 손쉽게 범죄 도구가 될 수도 있다.
 

"미치광이 과학자처럼 스팀펑크 스타일로 불꽃 튀는 화학물질들을 섞고 있는 곰돌이들(teddy bears mixing sparkling chemicals as mad scientists in a steampunk style)"이라는 텍스트를 가지고 '달리 2'가 만들어낸 이미지. [사진=OpenAI]

AI 개발 기업인 OpenAI는 GAN을 기반으로 개발한 ‘달리 2(DALL-E 2)’라는 엔진을 공개했다. 이 솔루션은 단순한 텍스트 지시어를 고품질의 이미지로 전환해준다. 단순한 사물 명칭뿐 아니라 동작이나 미적 스타일, 다양한 주제어 등을 복합적으로 입력해 넣으면 그에 걸맞은 사실적인 이미지나 예술작품을 만들어 낸다. 이미지에서 누락된 부분을 복원하거나, 질 낮은 이미지를 초고해상도 이미지로 바꾸거나 노이즈를 제거할 수도 있다. MRI 촬영 결과물의 품질을 높이려면 몸에 해로운 방사선 양을 늘려야 하는데 GAN을 활용하면 방사선 양을 늘리지 않은 상태에서 MRI를 촬영한 후 이미지의 해상도를 높여 선명한 이미지를 얻을 수 있다.

비행기는 새가 나는 모습에서 발명되었다. 그런데 지금의 비행기나 우주 발사체를 보면 새에서 출발했다는 것이 믿기지 않는다. AI는 인간의 두뇌를 연구해서 만들었다. 그리고 우리의 상상을 초월한 AI 플랫폼들이 출현하고 있다. 앞으로 50년 정도 지나면 어떻게 될까? 미래의 슈퍼 AI는 인간의 두뇌를 새 정도로 생각하지 않을까?
 

이세돌이 쏘아 올린 작은 공

이세돌(1983~)과 AI 알파고의 대국은 AI 역사에 기록될 만큼 중대한 사건이다. 결과는 이세돌이 5전 중 4패한 알파고의 압승이었다. 이를 두고 전 세계 언론은 AI가 인간의 지능을 넘어서는 신호탄이 올라갔다고 충격 보도를 했다. 이후 AI 기술 발달을 거론할 때마다 이세돌은 빠지지 않는 이름이 되었다.

지금 생각해 보면 이세돌이 알파고를 이긴다는 것은 애초부터 말이 안 됐다. 알파고는 괴물과 같은 슈퍼컴퓨터였다. 알파고는 CPU 1202개로 무장한 AI로 수십만 건의 대국 기보를 학습했다. 인간이라면 도저히 달성할 수 없는 학습량으로 알파고는 이 9단과 세기적 대국을 치르기 이전에 이미 ‘신’의 경지에 올랐다. 이제 인간이 바둑에서 AI를 이길 수 없다는 것은 당연한 사실로 여겨지고 있다. 요즘 대국장에는 디지털 기기 검사장비가 상시 비치되어 있다. 기사가 AI를 이용해서 부정으로 승부 조작하는 것을 방지하기 위함이다.

알파고 대국은 딥마인드의 AI 기술을 홍보하기 위한 쇼였다. 이를 위해 온갖 고난을 뚫고 기성의 자리까지 올라간 위대한 인간들을 희생양으로 삼았던 것이다. 이세돌에 이어 중국 커제(柯洁, 1997~)까지, 그들을 만방으로 물리친 알파고 쇼는 흥행에 성공했다. 흥행 상금은 6억 달러, 딥마인드는 그들의 흥행 성적을 6억 달러라는 거액을 받고 구글에 매각했다.

이 잘 설계된 홍보 판에서도 2016년 3월 13일 네 번째 대국에서 이세돌이 78번째 수를 두면서 이변이 시작됐다. 87번째 수 이후 먼저 두었던 78번째 수의 진면목이 드러났다. 78수 직후 알파고가 계산한 승률은 70%였다고 한다. 그러나 78번째 수가 갇혀 있던 흑돌을 구출하고 판세를 역전시키는 서막을 연 것이었다. 이후 87수에 이르자 알파고의 승률은 50% 이하로 떨어졌다. 30초 만에 10만 수 이상을 볼 수 있는 슈퍼 컴퓨터가 놓친 ‘신의 한 수’가 시전됐다. 이후 알파고는 이해할 수 없는 ‘떡수’를 남발하며 무너지기 시작했다. 딥마인드 경영진은 180번째 돌에서 알파고의 불계패를 선언했다. 슈퍼컴퓨터가 인간에게 패한 믿기 힘든 일이 일어났다.

당시 세간에서는 이 대국을 ‘인간과 기계의 자존심을 건 세기의 대결’이라 불렀다. 알파고의 압승을 목도한 후 AI 개발자들은 ‘AI가 인간의 직관을 따라잡았다’고 평했다. 그러나 이는 슈퍼컴퓨터의 연산 능력을 과소평가하고 AI가 직관 없이 연산만으로도 바둑의 수 싸움은 얼마든지 리드할 수 있다는 것을 몰랐기 때문이다.
 

디지털 시대에도 인간이 기계보다 뛰어난 이유는 ‘직관’

 

[사진=게티이미지뱅크]

일부 호사가들은 이 승패의 원인이 ‘이세돌의 묘수가 아닌 알파고의 프로그램 오류’라는 식으로 평가하기도 했다. 그러나 정작 알파고를 만든 구글 딥마인드 측은 이세돌의 78수가 완벽한 패인임을 인정했다. 이후 그 78번째 수를 분석해 보니 그 대국에서 알파고가 이세돌이 그곳에 78번째 수를 둘 것이라고 예상할 확률은 1만분의 1 이하였다고 한다.

이세돌의 1승은 인간이 직관만으로도 슈퍼기계지능을 능가할 수 있는 가능성을 열어줬다는 의미가 있다. AI는 ‘직관’의 능력을 지닌 것이 아니라 ‘직시’하는 기계일 뿐이며 방대한 데이터와 높은 성능의 연산능력을 직관으로 보는 것은 무리가 있다는 사실이 증명됐다. 알파고의 인식 수준은 두 좌표가 만들어내는 평면적 차원을 벗어날 수 없다. ‘경계를 뛰어넘는 행위’인 직관에는 도달할 수 없다. 우주의 원소보다 많은 경우의 수를 제한된 시간 내에 논리적으로 계산해 최적의 수를 놓는 것은 제 아무리 슈퍼컴퓨터라도 쉽지 않다. 직관은 디지털 시대에도 인간이 기계보다 뛰어날 수 있으며 기계와 다름을 증명하는 불가침의 영역이라는 것을 이세돌이 입증한 것이다.

AI는 인지·판단·제어하는 기계다. 알파고는 이세돌의 수를 인지하고 수십만 기보에 대입해 판단하고 이에 대한 방책을 제어했다. 인간은 다음 단계를 가지고 있다. 그것이 바로 지혜다. 지혜는 데이터의 세계에선 알 수 없는 영역이다. 신의 한 수라고 하는 이세돌의 78번째 수는 바로 지혜의 영역에서 나온 직관이었다. 그의 지식은 찰나의 순간 날아올랐고 가장 높은 곳에서 판세를 조망했다. 수많은 바둑 전문가와 알파고가 2차원의 미로 속에서 눈앞에 보이는 수천 개의 수를 계산하고 있을 때 그의 시선은 계산의 영역을 벗어난 4차원의 수를 발견해 냈던 것이다.

이런 이세돌에 대한 존경의 표시일까? 지금은 구글의 일원이 되어 초거대 AI를 개발하고 있는 딥마인드사의 홈페이지 첫 장에는 다음과 같은 이세돌의 소회가 적혀 있다.

"나는 알파고가 확률 계산에 능한 기계에 지나지 않는다고 생각했다. 그러나 알파고가 바둑을 두는 것을 보고 생각이 바뀌었다. 알파고는 창의성을 가진 것이 분명하다."
이세돌
세계바둑대회 18회 우승자
"I thought AlphaGo was based on probability calculation and that it was merely a machine. But when I saw this move, I changed my mind. Surely, AlphaGo is creative."
Lee Sedol
Winner of 18 world Go titles

이제 우리는 인간이 더 이상 바둑에서 AI를 이길 수 없다는 것을 알고 있다. 그래서 바둑 AI를 상대하는 것이 아니라 트레이닝 도구로 사용하고 있다. 앞으로도 많은 AI가 인간을 능가하는 능력을 보일 것이다. 그때마다 우리는 그 AI를 각자 목적에 맞게 도구로 이용할 것이다. 특이점 시대가 오면 AI가 인간의 지능을 능가하고 결국 인간은 터미네이터 영화 속 세상과 같이 AI에 지배를 당하거나 멸절될 수도 있다는 막연한 불안감을 가지고 있다. 그러나 인간의 지혜는 이미 AI를 장착하며 공진화해 나가는 방법을 습득했다. 아무리 강력한 AI가 등장해도 AI를 장착한 인간을 뛰어넘긴 어려울 것이다.
 

강시철 비엔씨티코리아 회장 [사진=강시철 비엔씨티코리아 회장 제공]