오늘날 인공지능(AI)만큼 세계적으로 주목을 끌면서 실제로 영향력을 급속히 확대하고 있는 이슈는 없다. 누가 보더라도 AI는 지금 피크타임에 있다. 과거에도 신기술이 확산될 때 그랬듯이 유토피아적 기대와 디스토피아적 우려가 공존하는 절정기에 도달한 느낌이다.
 

영국 시사주간지 이코노미스트 최신호(9월 21일자)는 ‘AI가 필요로 하는 획기적인 기술 발전’을 제목으로 한 커버스토리에서 AI의 한계를 뛰어넘기 위한 경쟁이 시작되었다고 강조했다. 이 커버스토리를 요약하면 다음과 같다.

“챗GPT가 전 세계를 강타한 지 2년이 지난 지금, 생성형 AI는 장애물에 부딪힌 듯하다. 더 큰 모델을 구축하고 사용하는 데 드는 에너지 비용이 급증하고 있으며, 획기적인 발전은 점점 더 어려워지고 있다. 연구자들과 기업가들은 이러한 제약을 극복하기 위한 방법을 찾기 위해 경쟁하고 있다. 이들의 독창성은 단순히 AI를 혁신하는 데 그치지 않을 것이다. 어떤 기업이 우위를 점하고, 투자자가 승리하며, 어느 국가가 기술을 주도할지 결정할 것이다.

대규모 언어 모델(LLM)은 전기를 많이 필요로 한다. 오픈AI의 GPT-4 모델을 훈련하는 데 사용된 에너지는 미국 가정 50곳에 100년 동안 전력을 공급할 수 있는 양이라고 한다. 모델이 커질수록 비용은 급격히 상승한다. 현재 가장 큰 모델을 훈련하는 데 1억 달러가 들지만, 다음 세대는 10억 달러, 그 다음 모델은 100억 달러가 든다. 게다가 어느 질문에 답변을 요청했을 때 세계 5만8000개 상장 기업의 재무 보고서를 요약하는 데 2400달러에서 22만3000달러의 계산 비용이 든다고 한다. 이러한 '추론' 비용을 모두 합치면 시간이 지나면 교육 비용을 초과할 수 있다. 그렇다면 생성형 AI가 어떻게 경제적으로 실용화될 수 있을지 알기 어렵게 된다. 이는 AI에 거액을 투자한 많은 투자자들에게는 두려운 일이다. 그래도 기술자들은 낙관적이다. 다른 많은 기술들이 한계에 직면했다가 인간의 독창성 덕분에 번영을 누렸다는 근거다.

기술 기업들은 특히 대규모 언어 모델(LLM)을 실행하는 데 필요한 작업을 위한 칩을 개발하고 있다. 이러한 전문화는 엔비디아와 같은 범용 프로세서보다 더 효율적으로 실행할 수 있다는 것을 의미한다.

개발자들은 AI 소프트웨어에도 변화를 주고 있다. 무차별 연산 능력에 의존하는 대규모 모델은 더 작고 전문화된 시스템으로 대체되고 있다. 오픈AI의 최신 모델인 ‘o1’은 추론은 더 잘하지만 텍스트를 생성하지는 못하도록 설계되었다. 다른 제조업체들은 칩을 더 효율적으로 사용하기 위해 덜 부담스러운 계산 방식을 채택하고 있다. 연구원들은 각기 다른 유형의 문제에 적합한 모델을 혼합해 사용하는 등의 영리한 접근 방식을 통해 처리 시간을 대폭 단축했다. 이 모든 것이 기업들의 운영 방식을 변화시킬 것이다.

오늘날 엔비디아는 전 세계 AI 칩의 80%를 판매하고 있다. 하지만 더 전문화된 다른 라이벌들이 그 점유율을 잠식할 수도 있다. 더 작고 전문화된 모델을 향한 추세가 계속된다면 AI 세계에는 소수의 슈퍼스타가 아닌 다양한 모델이 등장할 수 있다.

아직 생성형 AI를 통해 수익을 창출할 수 있는 전략을 갖춘 기업은 거의 없다. 결국 업계에서 승자가 나오더라도 그 승자가 누구일지는 확실하지 않다.

정부 역시 생각을 바꿔야 한다. AI의 발전은 자본과 컴퓨팅 파워를 축적하는 것만큼 적절한 인재와 번성하는 생태계를 갖추는 것이 중요하다. 중국을 견제하려는 미국의 시도는 역효과를 낳고 있다. 미국은 전략적 라이벌이 핵심 기술을 선점하는 것을 막기 위해 중국의 첨단 칩에 대한 접근을 제한함으로써 의도치 않게 중국의 연구 시스템 성장을 촉진했다. 무차별 통제보다 독창성이 더 중요한 상황에서 미국이 주도권을 확보하기 위한 더 좋은 방법은 더 쉬운 비자 규정 등을 통해 다른 곳에서 최고의 연구자들을 유치하고 유지하는 것이다.

AI 시대는 아직 초기 단계에 있으며. 많은 부분이 불확실하다. 그러나 AI가 필요로 하는 혁신은 해외의 경쟁자를 막으려는 것이 아니라 아이디어와 인재가 국내에서 번창할 수 있는 공간을 제공하는 데서 비롯될 것이다.“
 

 

AI 최고개발자들이 AI를 둘러싼 최첨단 지식과 통찰력을 담은 실리콘밸리발 화제작도 서점가를 달구고 있다. AI 최고 개발자 무스타파 슬레이먼과 작가 마이클 바스커는 신간 (몰려오는 파도)에서 AI의 무서운 진화 속도에 대해 경종을 울리며, 국가와 기업이 협력해 기술을 통제할 필요성을 강조한다. 슬레이먼은 프로기사를 이긴 AI '알파고'로 유명한 딥마인드의 공동 창업자다.

이 책은 AI를 인류의 기술 역사라는 관점에서 고찰하고, AI의 스스로 학습하는 특성으로 인해 AI의 진화 속도는 자동차 등과 비교할 수 없을 정도로 빨라지고 있음을 강조한다. 다이너마이트가 전쟁에 쓰이고 자동차가 교통사고를 가져온 것처럼 AI는 가짜뉴스 양산으로 인한 여론 조작, 저작권과 초상권 침해, 사이버 공격, 화학무기 개발과 군사적 전용, 사람들의 일자리 빼앗기 등 다양한 문제점이 지적된다.

그중에서도 모든 업무를 수행하고 인간보다 더 높은 지능을 가진 AGI(범용 인공지능)가 탄생하면 그 영향은 지대할 것이다. 고도의 지능으로 먹이사슬의 정상에 오른 인간이 처음으로 자신보다 몇 단계 더 똑똑한 존재와 마주하게 되는 것은 인류 역사상 가장 큰 '다가올 대격변'이라고 할 수 있다. AI 기술에 대한 국제적인 규제와 프레임워크 마련이 시급한 까닭이다.

슬레이먼은 “AI에 대한 규제만으로는 충분하지 않다”며 개발 기업의 거버넌스(지배구조)와 감사 체계, 안전성을 담보할 수 있는 기술 도입을 제안하고 있다. 이 논의는 국가나 기업뿐만 아니라 모든 사람에게도 무관하지 않을 것이다.

미국의 군사 분석가인 폴 샤를레가 펴낸 신간 도 관심을 불러일으키고 있다. AI가 국가 간 경쟁에 미치는 영향을 포괄적으로 서술한 책이다. 원제는 ‘FOUR BATTLEGROUNDS’로 2018년 출간한 <무인병단>에 이은 같은 주제의 작품이다. 저자는 미국 육군을 거쳐 국방부에서 자율형 무기를 연구했다. 이 책은 AI의 사회 구현을 가능하게 하는 구성요소인 데이터, 계산(컴퓨팅), 인재, 제도 등 4개 분야의 국제 경쟁 현황을 소개하고, 지금까지의 정치 논쟁과 정책 연구를 바탕으로 해설을 덧붙이고 있다.

이 책은 AI 연구와 사회 구현에 앞서가는 중국의 정책에 대해 경종을 울리지만 그것이 일차적인 목적은 아니다. 물론 AI를 활용함으로써 얻을 수 있는 군사·치안 문제에서의 이점은 크며, 인권 등의 가치관이 서구 사회와 다른 국가라면 AI의 사용이 민주주의의 후퇴로 이어질 가능성도 부정할 수 없다. 그것은 데이터 등의 사용 방법 문제이지 AI 자체에 책임이 있는 것은 아니라고 지적한다.

샤를레는 군사적 측면에서 AI의 활용이 진행될 경우 전쟁의 본질이 바뀔 가능성이 있다고 지적한다. 샤를레는 <무인병단>에서 이미 AI의 사용과 관련해 데이터 오염과 알고리즘의 성숙 과정에서 발생하는 여러 문제들을 지적한 바 있다. 이번 작품에서는 여기에 더해 AI 자체에 초점을 맞춰 AI의 진화로 인해 인간이 전쟁에서 효과적인 통제를 유지할 수 없게 될 가능성을 지적하고 있다('전장의 싱귤래리티'라는 표현을 사용했다).

샤를레는 특히 AI 개발 경쟁에서 인재 육성과 조직의 중요성을 강조한다. 인재 육성에서 STEM(과학·기술·공학·수학) 인재의 육성과 경쟁력 있는 확보를 과제로 삼고, 조직에서는 법 규제와 연구개발부터 사회 구현에 이르는 모든 단계의 지원 체제 등 확충이 필요하다고 지적한다. 이 두 분야는 각국의 경제안보 정책에서도 중요하게 다루어지는 분야다. 이 책은 AI 패권을 둘러싼 경쟁은 계속될 것이라며 끝을 맺는다.

세계가 주목하고 있는 ‘지성의 거인’ 유발 노아 하라리가 AI의 위험성을 다룬 신간 <넥서스(Nexus)>도 세계의 서점가에서 눈길을 끌고 있다. 금주에 한국판으로도 소개되는 책이다. 역사학자이자 철학자인 하라리는 지금까지 그의 핵심 저서인 <사피엔스 전사> <호모 데우스> <21레슨> 등 3권의 대작을 출간했다. 이 책들은 모두 세계적인 베스트셀러로, 다른 저서를 포함해 전 세계 65개 언어로 4500만부가 발행되었다.

하라리는 <사피엔스 전사>에서 인류가 '허구'(픽션)를 공유하고 대규모 인원이 협력함으로써 다른 동물이 갖지 못한 막강한 힘을 얻게 되었다고 강조했다 그리고 이번의 신간 <넥서스>에서 '정보'를 중심으로 다시 한번 인류의 역사를 대담하게 읽어내고 있다. 예로부터 인류는 정보 네트워크를 어떻게 만들어 왔을까?　정보 네트워크는 인류 사회를 어떻게 변화시켜 왔는가? 3권의 대작 출간 이후 급부상한 '생성 AI'와 '가짜 정보'에 대해 문제를 제기하고, 지금 인류가 직면한 시급한 중요 과제에 대해 우리가 어떤 선택을 해야 하는지에 대해 제언하는 책이다. 영문판 소개문은 다음과 같다.

“넥서스는 인류사라는 망원 렌즈를 통해 정보의 흐름이 어떻게 우리를, 그리고 이 세상을 형성해 왔는지를 고찰한다. 석기 시대부터 성서 정경의 성립, 근대의 마녀사냥, 스탈린주의, 나치즘, 그리고 오늘날 포퓰리즘의 부활까지, 하라리는 정보와 진실, 관료제와 신화, 지식과 권력의 복잡한 관계에 대한 사색을 촉구한다. 하라리는 역사 속 다양한 사회와 정치 시스템이 어떻게 정보를 이용해 좋든 나쁘든 목적을 달성해왔는지를 탐구한다. 그리고 인간 외의 지능에 의해 자신의 존재가 위협받고 있는 상황에서 우리가 서둘러야 할 선택에 대해 이야기한다.

하라리는 우리에게 메시지를 던진다. 우리는 인류 역사상 가장 중요한 정보 혁명의 한가운데에 살고 있다. 그러나 그 이전에 일어난 일을 이해하지 못하면 그 사실을 이해할 수 없다. 역사는 결국 과거를 배우는 것이 아니라 변화를 배우는 것이다. 역사는 무엇이 변하지 않고, 무엇이 변하고, 어떻게 변화하고 있는지를 알려준다. 하지만 역사는 결정론적인 것이 아니며, 넥서스는 과거를 이해하면 미래를 예측할 수 있다고 주장하지 않는다. 내 목표는 충분한 지식에 기반한 선택을 한다면 최악의 결과를 피할 수 있다는 것을 보여주는 것이다.“


곽재원 필자 주요 이력 

▷전 중앙일보 경제부국장, 도쿄특파원 ▷전 서울대 공과대학 초빙교수 ▷전 한양대 기술경영학 석좌교수 ▷전 경기도 경기과학기술진흥원 원장 ▷현 가천대·호서대 초빙교수 ▷현 아주경제 논설위원장