국내 AI 반도체 업체들이 챗GPT 등 초거대 AI를 추론(실행)할 수 있는 2세대 AI 반도체 출시를 잇달아 예고했다. 초거대 AI의 핵심 기술인 '트랜스포머' 모델 실행에 특화한 AI 반도체를 조기 출시함으로써 국내외 AI·클라우드 서비스 기업을 고객으로 확보하고, 전 세계 시장 1위 업체인 엔비디아와 겨룰 수 있는 토대를 마련하려는 전략이다.

22일 국내 AI 반도체 스타트업 '퓨리오사AI'는 트랜스포머 모델 플랫폼을 운영 중인 미국 AI 기업 '허깅페이스'와 협력해 차세대 AI 반도체 개발에 속도를 낸다고 밝혔다.

양사는 챗GPT와 같은 초거대 언어모델(자연스럽게 대답하는 능력)뿐 아니라 컴퓨터 비전(보는 능력), 음성 합성(말하는 능력) 등 다양한 트랜스포머 계열 AI 모델을 퓨리오사AI의 차세대 AI 반도체에서 추론할 수 있도록 최적화하고, 외부 서비스를 위한 솔루션을 공동 개발하고 있다. 

퓨리오사AI의 차세대 AI 반도체는 컴퓨터 비전에 특화한 1세대 AI 반도체 '워보이'와 달리 트랜스포머 계열 언어모델을 지원하는 추론용 칩이다. 대량의 데이터를 한 번에 처리할 수 있도록 3세대 고대역폭메모리(HBM3)를 탑재한다. 현재 칩 설계를 마쳤고, 내년 상반기 중에 양산을 시작할 계획이다.

허깅페이스는 트랜스포머를 대중화시킨 플랫폼으로 구글, 마이크로소프트 등 전 세계 1만3000개 이상 기업 고객이 이용하고 있다. 허깅페이스 트랜스포머 라이브러리는 일평균 100만 이상의 다운로드를 기록한 바 있다.

줄리앙 쇼몽 허깅페이스 최고기술책임자(CTO)는 "적은 비용으로도 AI 모델을 효율적으로 운영하는 AI 반도체는 허깅페이스의 미션인 'AI 보편화'를 실현하는 데 꼭 필요하다. 퓨리오사AI와 차세대 AI 반도체 설계 단계부터 긴밀히 협업함으로써 전 세계 수백만 명이 쓰고 있는 허깅페이스 라이브러리를 원활하게 추론하는 결과물을 선보일 것"이라고 밝혔다. 
  트랜스포머는 구글이 2017년 오픈소스로 공개한 딥러닝(인공신경망) 기술이다. 문장 속 단어와 같은 순차적 데이터 내의 관계를 추적해 맥락과 의미를 학습할 수 있는 게 특징이다. 트랜스포머는 기존에 널리 사용되던 딥러닝 알고리즘인 CNN(합성곱), RNN(순환 신경망), MLP(다중 퍼셉트론)보다 연산 능력이 우수해 2020년 이후 초거대 AI 개발을 위한 핵심 기술로 떠올랐다. 일례로 챗GPT의 'T'도 트랜스포머를 적용했음을 의미한다.

트랜스포머가 AI 업계 핵심 기술로 떠오름에 따라 특정 AI 모델에 맞춰 설계되던 AI 반도체도 트랜스포머에 최적화하는 형태로 변화를 꾀하고 있다.

이러한 현상을 두고 삼성전자와 함께 AI 반도체를 개발 중인 이동수 네이버클라우드 이사는 "트랜스포머 기술이 AI 모델 규모를 키우는 데 가장  우수한 것으로 입증된 만큼 향후 AI 반도체는 특정 영역에 특화하기보다는 트랜스포머 모델 학습과 추론에 최적화하는 형태로 발전할 것"이라며 "시장 1위 업체인 엔비디아는 구글의 트랜스포머 공개 후 가장 발 빠르게 대응함으로써 업계 주도권을 확보할 수 있었다"고 설명했다.

경쟁사들도 트랜스포머에 특화한 AI 반도체를 출시했거나 출시를 예고했다.

SK텔레콤·SK하이닉스의 관계사인 사피온은 이날 자사 AI 반도체 'X220'이 컴퓨터 비전(리즈넷)뿐 아니라 자연어 처리 모델인 'BERT' 추론에서 우수한 성능을 보이며 트랜스포머 실행 능력을 입증했다고 밝혔다. 연내 출시 예정인 차세대 AI 반도체 'X330'은 트랜스포머 추론 능력을 한층 강화함으로써 챗GPT가 적용된 '차세대 에이닷' 등 초거대 AI 추론을 위한 모든 준비를 마쳤다. 데이터센터용 AI 반도체인 X330과 함께 자동차용 AI 반도체 'X340', CCTV 등 에지 디바이스를 위한 AI 반도체 'X350'도 선보일 계획이다.

리벨리온은 트랜스포머에 특화한 AI 반도체 '아톰' 양산에 착수하고 KT의 초거대 AI를 아톰에서 추론할 수 있도록 관련 협업에 나섰다. 장기적으론 KT클라우드의 클라우드 기반 AI 반도체팜 서비스를 통해 외부 기관과 기업 등에 공개할 예정이다.