◆급성장 기대 AI 반도체...美 기업에 못 뺏겨

12일 과학기술정보통신부가 경기도 성남시 판교 경기창조경제혁신센터에서 이종호 과기정통부 장관 주재로 'AI 반도체 최고위 전략대화'를 열고 '국산 AI 반도체를 활용한 K-클라우드 추진방안'을 공개했다.

추진안은 사피온, 리벨리온, 퓨리오사AI 등 국내 팹리스 스타트업이 개발한 AI 반도체(NPU)를 NHN클라우드, KT클라우드, 네이버클라우드 등 국내 클라우드 업체가 구축한 NPU팜에 적용하고 이를 기업과 공공기관에 공개함으로써 혁신적인 AI 서비스를 발굴하는 것을 목표로 한다.

이종호 장관은 취임 후 줄곧 반도체 산업의 중요성을 강조하면서 메모리 반도체 기술에 강점이 있는 한국 기업들이 시스템(비메모리) 반도체로 사업 영역을 확대할 수 있도록 가트너 기준 2025년 767억7000만 달러(약 100조6000억원)로 성장할 것으로 예상되는 AI 반도체 산업을 집중 육성할 것이라고 밝힌 바 있다.

AI 반도체는 전력 소모가 심한 엔비디아 GPGPU(일반목적용 GPU=AI 반도체)를 대신해 AI 모델을 실행할 핵심 하드웨어로 떠 오르고 있다. 영상 처리나 자연어 처리에 특화된 AI 반도체를 통해 적은 전력 소모로도 AI 모델을 '실행(추론)'할 수 있어 작은 도시만큼 전력을 소모하는 데이터센터를 효율화(저전력·탄소중립)할 방안으로 주목받고 있다. 지속적인 기술 발전으로 아직까진 엔비디아 GPGPU만 가능하다고 여겨지는 AI 모델 '학습' 영역도 넘보고 있다.

AI 반도체 업계서 가장 앞서는 기업은 구글과 아마존웹서비스(AWS)다. 이들은 클라우드를 통해 자사 AI 반도체인 'TPU(텐서플로유닛)'와 '인퍼런시아'를 공개하고 AI 라이브러리(AI 반도체와 AI 모델 연결을 위한 소프트웨어)를 지속해서 고도화함으로써 엔비디아 GPGPU '테슬라'와 라이브러리 '쿠다(CUDA)' 패권에 도전장을 냈다. 구글은 지난 2017년 TPU를 상용화해서 전 세계 주요 기업들을 고객으로 확보했고, AWS도 이스라엘 팹리스 스타트업 안나푸르나랩스를 인수해서 인퍼런시아를 개발, 2019년 시범 서비스에 나섰다.

정부도 개별 기업이 AI 반도체를 구매하지 않아도 클라우드로 유연하게 AI 반도체의 성능을 제공받는 점에서 착안해 이번 NPU팜 계획을 수립했다.
  ◆클라우드+AI 반도체 컨소시엄 구성 예상...NHN·KT·네이버 경쟁

AI 반도체 산업 육성을 위해 과기정통부는 2023년 428억원, 2025년까지 약 1000억원의 예산을 투입해 광주광역시와 다른 지역 등 총 2곳에 국가 주도 'NPU팜'을 구축한다. NPU팜이란 CPU(중앙처리장치)와 메모리 장비 위주로 구축되는 기존 데이터센터와 달리 AI 반도체에 특화된 데이터센터를 말한다. 광주 NPU팜이 먼저 사업자 선정에 착수하고, 다른 지역은 구축 지역을 확정한 후 사업자 선정에 나선다.

이번 사업을 통해 정부는 국산 AI 반도체의 안정적인 수요처를 만들고, 국내 기업과 공공기관을 위한 저전력 고성능 AI 모델을 실행할 토대를 다질 수 있을 것으로 기대하고 있다.

사업에는 국내 클라우드 업체와 AI 반도체 팹리스가 컨소시엄을 맺고 참여할 것으로 관측된다. 클라우드 업체 입장에선 정부 지원(구축비 약 70%)을 받아 가며 별다른 규제나 반발 없이 신규 데이터센터를 확보할 수 있고, AI 반도체 업체 입장에선 매출 확대와 함께 대한민국 정부라는 강력한 활용사례(레퍼런스)를 얻을 수 있는 만큼 결코 놓칠 수 없는 대형 공공사업이다.

때문에 사업 수주를 위해 클라우드 업체를 중심으로 다양한 합종연횡이 이뤄질 전망이다.

가장 유리한 고지에 선 곳은 사피온, 퓨리오사AI 등과 뭉칠 것으로 예상되는 NHN클라우드 컨소시엄이다. NHN클라우드는 지난 10월 SK ICT 연합의 자회사 사피온과 함께 판교 NHN데이터센터에 AI 반도체 '사피온 X220'을 활용한 NPU팜을 구축한 경험이 있다. 또, 광주 AI 데이터센터 사업을 수주하며 NPU팜과 구조가 같은 대형 GPU팜 구축에도 착수했다. NHN클라우드는 AI 반도체 산업 육성이라는 정책 취지에 맞게 특정 업체의 AI 반도체만 이용하지 않고 여러 AI 반도체 업체와 협력해 공급망을 다각화할 계획이다.

KT클라우드와 리벨리온으로 구성될 전망인 KT클라우드 컨소시엄도 복병이다. KT는 리벨리온에 300억원을 투자하며 AI 반도체 확보에 대한 강한 의지를 드러냈다. KT클라우드는 이미 엔비디아·그래프코어의 AI 반도체를 활용한 GPU팜을 국내 최초로 구축하며 관련 기술도 확보했다. 리벨리온은 내년 3월 영상 처리에 특화된 AI 반도체 출시를 앞두고 있다.

퓨리오사AI에 대규모 투자를 단행하고 삼성전자와 AI 반도체 개발을 위한 협약을 맺은 네이버도 자회사 네이버클라우드를 통해 NPU팜 사업에 참여한다. AI 반도체 파트너 윤곽이 드러난 두 업체와 달리 아직 컨소시엄을 확정하지는 않았다. 네이버클라우드 관계자는 "사업 특성에 맞춰 같이 할 파트너를 정할 예정"이라고 밝혔다.

업계 관계자는 "NPU팜이라 하더라도 결국 클라우드용 데이터센터라는 기본 구조를 벗어날 수 없다. 이점에서 하나의 NPU팜을 하나의 컨소시엄이 수주하는 형태가 될 것"이라며 "참여 컨소시엄은 3곳인데 구축하는 NPU팜은 2곳이니 적어도 1개 컨소시엄은 탈락의 고배를 마실 수밖에 없다. 내년 1~3월 사업 수주를 위해 컨소시엄 간 치열한 경쟁이 예상된다"고 설명했다.
  ◆차세대 메모리와 AI 반도체 결합...극저전력으로 엔비디아 대체

과기정통부는 NPU팜 구축과 함께 △AI 반도체 고도화 △AI 반도체 라이브러리 개발 △AI 반도체 석박사 인재 육성을 추진한다.

이를 위해 정부는 내년부터 2030년까지 총 8262억원을 투자해 AI 모델 실행 수준에 머무르고 있는 국산 AI 반도체를 AI 학습까지 가능하도록 지원하고, PIM과 AI 반도체를 결합한 차세대 AI 반도체 개발에 착수한다. PIM이란 데이터 저장장치의 기능만 하던 메모리(디램)에 처리 능력을 부여해 CPU와 메모리 간 병목현상(한 번에 많은 데이터가 몰려 전송 속도가 느려지는 현상)을 없애는 기술이다. PIM과 AI 반도체가 결합하면 AI 모델이 한 번에 더 많은 데이터를 더 빠르게 학습함으로써 AI 모델 고도화에 들어가는 시간과 비용(전력소모)을 크게 줄일 수 있을 것으로 기대된다.

특히 정부는 지원 사업 막바지인 2029~2030년에는 비휘발성 PIM과 AI 전용 설계를 활용한 차세대 AI 반도체를 개발함으로써 AI 모델 학습과 실행에서 CPU의 역할을 최소화한 극저전력 AI 반도체 개발을 달성할 계획이다.

이를 통해 2030년 국내 데이터센터 시장에서 국산 AI 반도체의 점유율을 80%로 확대(현재 1% 미만)하고, 미국(100%) 대비 89.2% 수준에 머무르고 있는 국내 AI 반도체 기술도 세계 최고 수준으로 향상한다는 야심 찬 목표도 제시했다.

◆엔비디아 패권의 비밀은 SW...정부 주도 통합 AI 라이브러리 개발

엔비디아가 AI 반도체 업계에서 지속해서 패권을 유지하는 이유로는 AI 반도체 하드웨어의 높은 성능과 함께 자체 AI 라이브러리 쿠다의 독보적인 활용성이 꼽힌다. 텐서플로 등 인공신경망 구현을 위한 핵심 SW부터 GPT-3, GPT-3.5 등 초거대 AI 모델까지 대부분의 AI 모델이 쿠다를 활용해 엔비디아 AI 반도체와 빠르게 실행·학습되고 있다.

이에 과기정통부는 국산 AI 반도체를 위한 통합 AI 라이브러리 개발을 위한 SW 예타 사업을 함께 추진한다. 국산 AI 반도체에서 AI 모델을 초고속·극저전력으로 실행하는 컴파일러, 라이브러리, AI 모델 자동 병렬화 기술과 이를 상용 클라우드 스택에 적용하기 위한 가상머신(VM)과 컨테이너(VM+운영체제), 가상 서버 클러스터(VM+운영체제+서버+네트워크) 기술 등을 개발할 계획이다. 다만 AI 반도체의 구조가 제조사별로 다른 만큼 AI 라이브러리의 핵심이 되는 백엔드 라이브러리 부문은 AI 반도체 업체가 직접 개발해서 공개할 필요성이 있다고 전문가들은 지적하고 있다.

마지막으로 과기정통부는 내년부터 3개 대학에 AI 반도체 설계 전문가를 양성하는 'AI 반도체 대학원'을 신설하고 지원에 나선다. 과기정통부 주도로 진행하는 사업이지만 KAIST 등 4대 과학기술원뿐 아니라 일반 대학교도 사업에 참여할 수 있다.

이종호 장관은 "한국은 메모리 반도체 분야에서 세계 최고 수준의 경쟁력이 있으며, 이 기술력을 바탕으로 산·학·연이 힘을 모으면 AI 시대의 핵심 인프라인 AI 반도체를 세계 최고 수준으로 육성할 수 있다"며 "이번 정부 계획안을 통해 국산 AI 반도체와 클라우드의 경쟁력을 높여 국민들이 더 좋은 AI 서비스를 제공받을 수 있도록 할 것"이라고 말했다.