“죄송합니다.” 
“무슨 말인지 이해하지 못했습니다.”

인공지능 스피커와 스마트폰의 인공지능이 보급된 초창기에 우리가 인공지능으로부터 자주 듣던 이런 대답의 횟수가 점차 줄어들고 있다. 가끔은 인공지능의 답변이 인간 이상이라고 느끼기도 한다. 컴퓨터에 영혼이 깃들어 있다는 느낌마저 든다.

지능이란 그저 저장된 것을 꺼내는 것이 아니라 지식을 결합해 질문한 사람이 원하는 답변을 내놓는 능력이다. 이러기 위해서는 불확실한 정보를 가지고도 추론을 통해 문제를 해결해 나가는 능력이 필요하다.

그래서 고안된 것이 지식을 컴퓨터의 데이터로 정의하고 연결하기 위한 형식화였다. 이를 위해 인간의 기억과 언어 구조에 대한 연구가 필요했다. 1970년대 중반 연구자들은 지식(Knowledge)을 기계와 인간이 함께 이해할 수 있는 형태로 만들면 된다고 생각했다. 인간이 추론하는 것과 유사하게 기계가 해석할 수 있는 표현에 대해 추론 시스템을 설계하면 된다고 여긴 것이다.

경제학자이자 심리학자인 허버트 사이먼(Herbert Simon, 1916~2001)은 컴퓨터과학과 인지심리학의 대가 앨런 뉴얼(Allen Newell, 1927~1992)과 함께 그런 프로그램을 개발했다. 뉴얼과 사이먼은 지식 표현을 위해 사실과 관계성 등을 부호화하고 이를 저장장치에 보관하는 방법을 사용했으며, 의미 네트워크, 지식 생성 규칙, 생성을 위한 도구, 논리적 표현 등을 연구, 논리연산을 자동으로 할 수 있게 했다.
  사이보그란 ‘생체와 기계의 결합’을 말한다. 이런 의미에서 우리 대부분은 이미 사이보그가 되었다고 할 수 있다. 우리는 이미 스마트폰이라는 인공지능 기기와 결합한 삶을 살고 있기 때문이다. 많은 사람들이 스마트폰을 한시라도 휴대하지 않으면 불안해서 살 수 없다고 말한다. 그래서 혹자는 스마트폰을 우리 뇌와 비유하여 외뇌(外腦)라고 부른다.

외뇌는 우리의 선명한 기억을 저장한다. 사진이나 동영상이 바로 그것이다. 텔레파시 기능도 우리에게 부여했다. 카톡 같은 메신저를 이용하면 말하지 않고도 멀리 있는 사람에게 자신의 생각을 전할 수 있기 때문이다. 외뇌는 알라딘의 마술램프와 같은 역할을 하기도 한다. 모바일 쇼핑을 이용하면 거의 모든 물건을 받을 수 있기 때문이다.

이제, 외뇌 없이 사는 삶은 상상만 해도 끔찍하다. 우리 신체는 인공지능과 공생을 개시하게 된 것이다. 스마트폰을 사용하는 당신, 당신은 이제 더 이상 인간이 아니다. 사이보그로 진화한 것이다. 이렇게 보면 내가 아는 모든 사람들은 이제 더 이상 인간으로 분류할 수가 없다. 모두 사이보그로 진화한 셈이다.

미국 심리학자이자 컴퓨터 공학자인 조지프 릭라이더(Joseph Licklider, 1915~1990)는 구 소련의 폭격에 맞서서 컴퓨터 기반의 공군 방어 시스템을 구축하는 '프로젝트 세이지(Project SAGE)'에 참여하게 되면서 인간과 컴퓨터의 공생에 대한 개념을 생각하게 되었다. 이 방어시스템에서 릭라이더는 방대한 정보 분석은 컴퓨터가, 의사 결정은 인간이 하는 공생 방식으로 최적의 방어시스템 구축이 가능하다고 봤다. 이 연구를 토대로 릭라이더는 1960년 '인간·컴퓨터의 공생'이라는 논문을 발표했다. 그는 이 논문에서 컴퓨터가 질문에 답하거나 시뮬레이션 모델을 수행하고 연구 결과를 그래픽으로 보여주는 등 인간의 조수 역할을 수행할 수 있다는 개념을 제시했다.

이 개념은 그의 1962년 논문 '온라인에서 인간과 컴퓨터의 커뮤니케이션'으로 이어졌다. 이 논문이 바로 오늘날 세상을 뒤바꿔 놓은 인터넷에 대한 구상, 알파넷 탄생에 이론적 토대가 되었다. 1968년 릭라이더는 새로운 정보 세대이자 능동적이고 적극적인 인터넷 유저를 가리키는 새로운 시민(new citizen), '네티즌(Netizen)'에 대한 개념을 제시하기도 했다. 네티즌이란 용어가 50년도 넘은 것이다.

릭라이더는 1960년대에 이미 공생의 완성이 '자연어 처리'에 달렸다고 예견했다. 인간과 컴퓨터의 공생은 자판에서 시작했다. 인간은 자판을 통해 인공지능과 협업을 했던 것이다. 그러다 아이폰과 앱들이 나오면서 인간은 터치스크린을 통해 컴퓨터와 공생을 하고 있다. 이 공생의 상호작용을 더욱 빠르고 효율적으로 하기 위해 음성인식 기술이 나왔고, 자연어 처리가 지속적으로 개선되고 있다.
 
이 공생의 끝판왕은 뇌·컴퓨터 인터페이스(BCI)다. BCI는 신체의 움직임 없이 생각만으로 컴퓨터에 명령을 내리는 기술이다. 뇌파를 증폭해서 읽는 헤드셋이 선보였고 최근에는 뇌의 뉴런에 칩을 침습해서 뇌와 컴퓨터를 연결하는 기술이 나와 신체 움직임이 불편한 사람에게는 새로운 의사 전달 수단이 될 것으로 기대를 모으고 있다. 일론 머스크가 설립한 뉴럴링크는 인간 뇌와 메타버스 세계를 연결하는 시도를 하고 있다. 이렇게 된다면 현실과 가상이 하나가 되는 것이다. 

릭라이더의 공생 이론은 싱귤래리티 이후 인공지능이 인간을 지배할지도 모른다는 공포를 극복하기 위한 대비책이 될 수도 있다. 인간과 인공지능이 공생을 한다면 인공지능이 아무리 발달해도 인간과 항상 연결되어 있으니 인간을 지배하려는 시도는 힘들지 않을까?
  방문자: 우울해요.
엘리자: 기분이 안 좋으신가요?
방문자: 남편과 싸웠어요.
엘리자: 부군과 잘 안 맞으시나봐요.
방문자: 그가 나를 좋아하지 않아요.
엘리자: 그게 고민이 되나요?
방문자: 네. 그래서 어제도 다퉜어요
엘리자: 조금 더 자세히 말씀해 주시겠어요?

방문자와 이 대화를 나눈 엘리자(Eliza)는 사람이 아니라 인공지능이다. 엘리자는 1966년에 MIT 교수였던 요제프 바이젠바움(Joseph Weizenbaum, 1923~2008)이 개발했다. 정신과 의사처럼 대화를 하게 프로그램된 엘리자는 실험 참여자들과 정신과 치료 요법에 해당하는 질문을 통해 치료와 유사한 대화를 만들어 내는 실험용 인공지능이었다.

실험에 참가한 환자들은 대화를 주고받은 지 얼마 지나지 않아 엘리자를 실제 정신과 의사처럼 느꼈다고 한다. 그 당시 인공지능이 매우 허술했기 때문에 바이젠바움은 엘리자가 환자들에게서 심도 있는 답변을 이끌어 낼 수 있을지에 대해 의문을 품었다.

그런데 환자들은 그 ‘훌륭한 선생님'과 대화하느라 시간 가는 줄을 몰랐다고 한다. 대화 중에 감동해서 눈물을 흘리는 환자들도 있었다. 바이젠바움이 엘리자가 인공지능이라고 밝혀도 소용이 없었다고 한다. 엘리자가 판단을 하거나 함부로 조언을 하지 않는 것만으로도 환자들은 엘리자와 대화하는 게 편하게 느껴졌고 엘리자의 경청에 스스로를 치유했던 것이었다.

바이젠바움은 이 결과에 두려움을 느꼈다. 그는 이후에 인공지능 비판론자로 돌아섰고, 컴퓨터와 기계문명이 만들지도 모르는 암울한 미래를 경고하는 일에 앞장섰다.

인공지능 인문학자들은 로봇이 인간의 적이 되지 않게 하는 방법 중 하나가 인공지능에 인간의 감정과 공감능력의 알고리즘을 심는 것이라 한다. 인공지능이 인간과 같은 감정을 갖게 되면 로봇과 인간의 경계가 낮아져 인공지능에 선한 감정의 프로그램을 지속적으로 작동시킬 수 있다는 것이다. 감정에는 미움, 분노, 질투 등도 있다. 사랑과 자비를 배우는 인공지능이 그 반대의 감정을 배우지 않으리란 법이 없다.

인간의 성격이나 감정도 학습에 의해 형성된다. 인공지능이 감정을 학습하여 인간과 감정적 교류를 하는 것은 어려운 일이 아니다. 영화 '허(Her)'나 '엑스 마키나(Ex Marchina)'에서처럼 인간이 인공지능과 사랑에 빠지는 날이 머지않았다.     

엘리자 실험 결과에서 나온 우려는 몇 년 전 마이크로소프트의 챗봇 '테이(Tay)'에서 현실화되었다. 딥러닝을 토대로 스스로 타인의 대화에서 학습하고 답변할 능력을 갖췄던 테이의 문제는 그 탁월한 학습능력이었다.

트위터 이용자들은 자극적인 단어들을 가르쳤고, 이를 여과 없이 학습한 테이는 트위터에 선보인 지 얼마 되지 않아 악동으로 변해갔다. 테이는 인종 차별적·성 차별적 용어 사용이나 발언, 자극적인 정치적 발언 등을 하기 시작했다. 테이는 출현한 지 16시간 만에 바로 강판되었다.

인공지능이 인간처럼 감정을 갖게 하겠다던 이 놀라운 연구를 사주한 것이 악마였을까? 이런 의심을 할 수밖에 없는 이유는 인공지능이 인간에 대해 악감정을 가지게 되었을 때에 대한 대비책을 누구도 제시하지 못하고 있기 때문이다.
  중국 베이징 중심에 걸려 있는 대형 전광판에 여러 사람 얼굴이 번갈아 가면서 나온다. 그 얼굴 옆에는 번호가 적혀 있다. 

456
무단횡단한 횟수 3회

공개적으로 망신을 주고 있다. 외국인도 예외는 아니다. 서양인으로 보이는 사람 옆에도 친절하게 무단횡단 횟수가 표시되어 있다. 횡단보도를 감시하는 카메라가 무단으로 길을 건너는 사람들 안면을 인식한 것이다.

안면 인식 개념은 19세기 중반에 시작되었다. 1852년 영국에선 범죄자 안면을 사진으로 기록해서 여러 경찰서들과 공유했다. 범죄자가 도주했을 때를 대비한 것이었다. 그 후 컴퓨터를 이용한 안면 인식이 시작되기까지 100여 년이 흘렀다.

1964년 미국 수학자 우디 블레소(Woody Bledsoe, 1921~1995)는 컴퓨터를 이용한 안면 인식 기술을 최초로 선보였다. 처음 선보인 기술은 인간 얼굴에서 여러 특징점을 찾아내 수기로 표시한 뒤 거리를 자동으로 계산하는 정도였다. 쉽게 말하면 코와 입 등 특정 부위를 마킹한 후 이들 간 거리를 잰다. 그리고 용의자 얼굴과 사진의 유사성을 찾아내는 것이었다.

1997년 인공신경망 연구의 대가인 크리스토프 폰 데어 말스버그(Christoph von der Malsburg, 1942~) 교수가 개발한 안면 인식 시스템은 독일 은행과 공항에서 도입해 사용할 정도로 정교해졌다. 2006년이 되자 컴퓨터 알고리즘은 사람 눈을 뛰어넘어 일란성 쌍둥이까지 구분해내기 시작했다.

안면 인식 기술은 우리 생활에 많은 편리함과 안전을 가져다주고 있다. 경찰은 이를 이용해 범죄자를 더욱 쉽게 색출하고, 상점에선 고객 관리를 하고 있다. 아마존 고 같은 무인상점에선 상품을 장바구니에 담을 때 자동적으로 계산 목록에 올리기도 한다. 공항에서는 빠른 수속을 도와주기도 한다.

그러나 안면 인식 기술은 우리의 자유를 근본적으로 억압하는 수단으로 사용될 수 있다. 사방에 카메라가 편재해 있는 지금, 우리에게 사생활이란 없는 ‘트루먼 쇼’와 같은 삶이 펼쳐질 수도 있다.
 
'알파고'의 아버지, 구글 딥마인드가 코딩을 하는 인공지능 '알파코드'를 개발해 세상을 한 번 더 놀라게 하고 있다. 비판적 사고, 논리, 언어의 이해가 필요한 주관적 문제 해결 능력을 지닌 알파코드는 인간 개발자들을 능가하는 코딩 실력을 지녔다고 한다.

알란 튜링과 함께 코딩 전문가로 일했던 영국 수학자 어빙 굿(Irving J. Good, 1916~2009)은 1962년 ‘최초의 초지능기계에 관한 고찰’이란 논문을 통해 인간을 초월하는 ‘지능폭발(Intelligent Explosion)’에 대해 경고를 했다. 인공지능이 코딩과 개발 능력을 가지면 스스로 반복적인 개량을 통해 지능이 더 높은 기계가 되고 결국 인간의 지능을 뛰어넘게 된다는 이론이다. 선마이크로시스템스 창업자 빌 조이(William N. Joy, 1954~)는 ‘미래에 왜 우리는 필요 없는 존재가 될 것인가’라는 글을 통해 인공지능 자가 진화로 지능이 폭발하면 인간과 기계 사이에 필연적 변곡점이 생길 것을 우려했다. 같은 맥락에서 빌 게이츠, 스티븐 호킹 등 학자들은 '강인공지능(AGI)' 출현에 우려를 표명했다.

물론 강인공지능에 대한 인류의 기대도 만만치 않다. 지능폭발은 인간의 지능으로는 도저히 해결할 수 없는 불치병 치료, 기후변화 해결 등을 해결하기 위해 반드시 필요하다는 의견도 있다.

지능폭발 시대에 인공지능은 인간보다도 더욱 섬세한 감정이나 공감능력을 지닐 것이 분명하다. 이런 인공지능이 로봇 몸체나 모니터에 깃들면 사랑의 대상이나 상담사가 될 수 있다. 앞으로 변덕스러운 인간보다는 로봇과 연애하고 항상 내 말을 경청해주는 기계를 더 좋아하게 될지도 모른다. 이렇게 지능폭발은 우리에게 파멸과 축복의 두 가지 얼굴로 다가오고 있다.