국내 인공지능(AI) 반도체 기업들이 2세대 제품을 시장에 출시하며 본격적으로 점유율 확대에 나선다. 1세대 K-AI 반도체가 시장을 주도하는 엔비디아와 겨룰 기술력이 있는지 검증하는 자리였다면 2세대는 국내외 기업에 공급해서 매출을 내는 주력 제품이 될 전망이다. AI 모델 데이터 처리 속도 강화를 위해 D램의 중요성이 커지는 가운데 이들 K-AI 반도체 업체는 삼성전자, SK하이닉스 등과 전략적 협업 관계를 맺음으로써 성능 강화를 꾀하고 있다.

19일 반도체업계에 따르면 사피온, 리벨리온 등 K-AI 반도체 업체들은 차기 제품 로드맵을 확정하고 내년 양산을 목표로 사업에 속도를 내고 있다.

◆사피온 'X330' 내년 본격 양산···SK하이닉스와 초협력 본격화
  2세대 AI 반도체에 대한 가장 구체적인 양산 로드맵과 성능을 밝힌 곳은 SK텔레콤(SKT)·SK스퀘어·SK하이닉스가 공동 출자해 설립한 사피온이다. 사피온은 지난 16일 서울 강남구 삼성동 코엑스 그랜드볼룸에서 열린 SK그룹 연례 개발자 행사 'SK 테크서밋 2023'에서 두 번째 AI 반도체 모델인 'X330'을 공개하고 내년부터 양산한다고 밝혔다.

X330의 가장 큰 특징은 SK하이닉스와 긴밀한 협력으로 사피온 AI 반도체 가운데 처음으로 SK하이닉스 GDDR6 D램을 탑재한 것이다. 과거 SK하이닉스의 GDDR6 D램은 엔비디아·AMD·인텔 등 규모의 경제를 이룬 글로벌 반도체 기업에만 공급됐으나 SK그룹 차원에서 시스템 반도체 사업을 전략적으로 육성하기 위해 X330에도 전량 SK하이닉스 D램을 탑재하기로 한 것으로 풀이된다.

이를 두고 사피온 관계자는 "X330은 사피온(시스템 반도체)과 SK하이닉스(메모리 반도체) 간 협력을 강화하는 첫 표상이라 할 수 있다"고 말했다.

TSMC 28㎚(나노미터) 공정에서 양산된 전작 X220과 달리 X330은 TSMC 7㎚ 공정에서 양산돼 발열과 전력 소모가 크게 줄었다. 전작 대비 연산 성능은 4배 이상, 전력효율(TCO)은 2배 이상 향상됐다. 경쟁사의 중급(미드레인지) AI 반도체와 비교해도 시각지능(ResNet 50) 기준 연산 성능은 약 2배, 전력효율은 1.3배 이상 우수하다고 사피온 측은 설명한다. 사피온 관계자는 "X330에 자체 비디오 코덱과 비디오 후처리 기술을 추가해 방송사와 OTT 업체가 관심을 두는 AI 화질 향상 속도도 크게 개선했다"고 강조했다.

류수정 사피온 대표는 X330의 경쟁 제품으로 엔비디아의 중상급 AI 반도체 'L40s'를 지목했다. 다만 이는 신규 모델 출시 자리에서 으레 볼 수 있는 제품 품질에 대한 자신감을 표현한 것으로 해석된다.

반도체업계에선 X330이 실제 경쟁하게 될 제품은 L40s보다 한 등급 낮은 엔비디아의 중급 AI 반도체 'L4'가 될 것으로 본다. L4는 엔비디아가 일반 소비자용 그래픽처리장치(GPU) '지포스 RTX 4070Ti'를 AI 모델 학습·추론에 맞게 최적화한 제품이다. 실제로 X330과 L4의 연산능력(TFLOPS), 전력소모(TDP), 메모리 용량 등은 대동소이하다. 법인이 설립된 지 1년 6개월밖에 되지 않은 국내 시스템 반도체 팹리스가 엔비디아의 상용 제품과 어깨를 겨룰 수 있는 AI 반도체를 선보인 것이다.

구체적으로 보면 X330은 8비트 부동소수점(FP8) 연산 기준 367(컴팩트)·734(프라임) TFLOPS의 연산능력을 갖췄고 75~120·250W의 전력을 소모한다. SK하이닉스가 만든 16·32GB의 GDDR6 메모리를 탑재했다. 반면 L4는 485 TFLOPS의 성능과 72W의 전력소모를 보여준다. 삼성전자가 만든 것으로 추정되는 24GB GDDR6 메모리를 탑재했다.

사피온은 X330이 시각지능(컴퓨터비전)과 AI 화질 강화(업스케일링)에 특화한 전작에서 한 발 더 나아가 트랜스포머를 포함한 초거대언어모델(LLM) 추론(실행)을 효과적으로 지원하는 게 강점이라고 강조했다. 사피온 관계자는 "X330은 기업이 최근 사내 챗GPT(가칭) 구축을 위해 관심을 두는 오픈소스 LLM(라마2) 기준 70억(7B)~130억개(13B) 매개변수 모델을 단일 칩에서 추론 가능하다"고 설명했다. 

업계에선 사피온이 HBM(고대역메모리) D램을 탑재한 고가 학습용 AI 반도체 대신 당분간 중저가 추론용 AI 반도체에 집중함으로써 급성장하는 AI 모델 추론 시장 점유율을 확대하는 전략을 펼칠 것으로 보고 있다. 모회사 SKT와 함께 기업에 AI 소프트웨어(멀티 LLM)와 AI 하드웨어(AI 반도체)를 제공함으로써 기업 시장을 공략하는 'AI 인프라' 사업 계획이다. 비싼 엔비디아 AI 반도체 대신 상대적으로 저렴한 사피온의 AI 반도체를 활용해 기업이 AI 구축·운영 비용을 절감할 수 있도록 돕는 게 사업 목표다.

모든 K-AI 반도체 업체들은 반도체 설계 인력과 소프트웨어(SW) 개발 인력이 엇비슷할 정도로 SW 개발에 심혈을 기울이고 있다. AI 반도체와 AI 모델을 연결을 하는 가교 구실을 하는 엔비디아 '쿠다' 라이브러리를 대체할 수 있는 SW를 개발하기 위함이다. 이러한 노력 끝에 사피온은 클릭 몇 번만 하면 엔비디아 AI 반도체에서 추론되는 AI 모델을 사피온의 AI 반도체로 옮길 수 있는 '제로터치' 라이브러리를 개발해 X330과 함께 공개한다.

또 사피온은 '라마2 70B' '클로드2' '에이닷X' 등 초거대 AI를 단일 칩으로 추론할 수 있는 차세대 AI 반도체 'X430' 개발도 예고했다. X430은 HBM D램 분야 세계 1위 기업인 SK하이닉스와 협력해 최신 HBM D램을 탑재함으로써 AI 모델이 한번에 처리할 수 있는 데이터 용량을 크게 늘리는 게 목표다. 현재 삼성전자·엔비디아 출신 마이클 셰바노 사피온 최고기술책임자의 지휘 아래 본격적으로 개발에 착수했으며 2025년 말에서 2026년 초 사이에 공개하는 게 목표다.

이종호 과학기술정보통신부 장관은 "국내 대표 AI 팹리스인 사피온이 데이터센터용 K-AI 반도체 X330을 출시한 것을 축하한다"고 말했다. 그러면서 "미·중 반도체 기술 패권 경쟁으로 AI 반도체는 국가 경쟁력을 좌우하는 핵심 기술·산업이 됐다"며 "정부의 '차세대 지능형 반도체 기술 개발 사업' 지원을 받아 만들어진 X330이 출시된 것은 글로벌 반도체 1등 국가 도약과 국산 AI 반도체 개발에 대한 정부의 강한 의지를 보여주는 성과"라고 말했다.

유영상 SKT 대표는 "현재 AI 시장은 19세기 골드러시 시기를 연상케 한다. 이때 초기에 돈을 번 회사는 곡괭이와 청바지를 만들었던 곳"이라며 "AI 반도체가 바로 AI 혁명 시대의 곡괭이와 청바지다. X330은 SKT가 강조하는 'AI 피라미드' 전략의 밑바탕이 되는 AI 인프라 영역에서 큰 역할을 할 것"이라고 말했다.

◆리벨리온-삼성전자 AI 반도체 동맹···'리벨'로 초거대 AI 대응
  리벨리온은 삼성전자와 전략적 파트너십을 맺고 차세대 AI 반도체 '리벨' 개발에 본격 착수했다. 리벨리온이 올해 상반기 출시한 반도체 AI 반도체 '아톰'은 MLPerf 벤치마크 결과 엔비디아의 전 세대 최상급(플래그십) AI 반도체 'A100'보다 시각지능 처리 능력이 우수한 것으로 나타나 K-AI 반도체의 가능성을 전 세계에 보여줬다는 평가를 받은 바 있다. 

리벨리온은 이달 초 아주경제와 인터뷰하면서 "삼성전자와 설계 단계부터 협력해 차기 AI 반도체 △리벨 싱글 △리벨 쿼드와 리벨을 활용한 AI 하드웨어 플랫폼 △리벨 팟을 준비 중"이라고 말했다. 기존에 출시한 AI 반도체 아톰도 △아톰 플러스로 업그레이드한다.

리벨은 설계부터 양산까지 전 과정을 리벨리온과 삼성전자가 함께 진행한다. 리벨리온이 AI 반도체 코어를 설계하고 삼성전자 차세대 D램인 고대역메모리(HBM3E)를 탑재하는 게 특징이다. 3차원(3D) 칩렛과 인터포저 같은 삼성전자 최신 반도체 패키징 기술을 적용해 삼성전자 파운드리 4㎚ 공정에서 제품을 양산한다. 3D 칩렛과 인터포저는 각기 다른 기능을 가진 칩을 하나의 반도체로 이어 붙이는 차세대 패키징 기술로, 삼성전자가 대만 TSMC를 따라잡기 위해 주력하는 분야다. 이러한 대형 프로젝트를 성공시키기 위해 지난 5월부터 리벨리온과 삼성전자 엔지니어는 마치 한 팀처럼 온·오프라인에서 지속적으로 협의하고 있다.

단순히 AI 반도체 양산만 보면 엔비디아·애플·퀄컴 등 대형 팹리스의 차세대 반도체를 양산하고 있는 TSMC가 삼성전자 파운드리보다 기술적 우위에 있다. 하지만 AI 반도체는 칩의 효율적인 계산 능력뿐 아니라 HBM 등 고성능 D램 확보가 중요하고, 다양한 고객 수요에 대응하기 위해 반도체 조합을 다양화할 수 있는 칩렛 기술 확보가 필수인 만큼 리벨리온으로서는 삼성전자가 최적의 파트너였던 것으로 풀이된다.

삼성전자로서는 초미세공정 기반 반도체 패키징 기술 고객을 확대함으로써 기존 메모리 반도체 사업에 필적하는 높은 부가가치를 창출할 수 있을 것으로 기대된다. 메모리 반도체에만 기대던 한국 반도체 기업이 차세대 파운드리와 시스템 반도체로 사업 영역을 확대할 수 있는 절호의 기회인 만큼 정부도 총력을 기울여 협력을 지원할 필요성이 있다고 업계 관계자들은 입을 모았다. 삼성전자와 리벨리온은 차세대 AI 반도체 개발에도 계속 협력함으로써 과거 TSMC(파운드리)와 미디어텍(팹리스)이 상호 협력으로 '윈윈' 효과를 끌어낸 것을 벤치마킹할 계획이다.

리벨리온은 구체적인 시장 공략 계획도 공개했다. 정윤석 리벨리온 전략총괄은 "LLM이 각광받으면서 시장에서 GDDR 대신 HBM D램을 활용한 고가 AI 반도체 수요가 커지고 있다"며 "리벨리온은 중저가 아톰과 고가 리벨 등으로 AI 반도체를 이원화해 시장 수요에 대응할 것"이라고 설명했다. GDDR6 D램을 탑재한 아톰으로 엔비디아 L4, HBM D램을 갖춘 리벨로 엔비디아 H100, L40s 등과 겨룰 것이란 포부다.

그러면서 정 총괄은 "리벨리온은 AI 반도체 '아톰' 양산 경험을 활용해 성능이 검증된 'DNC 아키텍처'를 우선 만들어 AI 반도체 규모를 키우고, AI와 AI 반도체를 연결하는 소프트웨어 노하우를 그대로 쓸 수 있었다"며 "AI 모델 크기에 따른 반도체 포지셔닝이 필요하다"고 덧붙였다. 

리벨 싱글은 36GB의 HBM3E D램을 탑재해 매개변수 70억~130억개의 LLM을 추론하는 데 특화했다. 리벨 쿼드는 리벨 코어 4개와 144GB의 HBM D램을 인터포저 기술로 연결해 매개변수 700억개(70B) 내외인 LLM 추론에 최적화한 것이 특징이다. 이러한 형태로 설계된 AI 반도체의 대표 사례로 AMD가 최근 공개한 '인스팅트 MI300X'를 꼽을 수 있다. MI300X는 인텔 '가우디2'와 함께 엔비디아의 최상급 AI 반도체 H100·H200의 유력한 경쟁 모델로 꼽힌다.

리벨 팟은 리벨 또는 리벨 쿼드만으로 구성된 AI 하드웨어 플랫폼이다. 챗GPT와 같이 매개변수가 1000억개(100B+)를 넘는, 진정한 의미에서 초거대 AI의 추론을 맡는다. 리벨 팟을 현실화하기 위해 리벨리온은 엔비디아 'NVLink(엔비링크)'에 대응할 수 있는 초고속 AI 반도체 연결 기술도 자체 개발하고 있다.

엔비디아가 시장을 사실상 독점하면서 AI 반도체 주 고객인 빅테크와 글로벌 클라우드 기업을 중심으로 불만이 커지고 있다. 이들은 엔비디아 AI 반도체를 대체할 수 있는 대안을 찾거나 자체 AI 반도체를 개발함으로써 공급망 다각화를 꾀하고 있다.

이러한 시장 상황 속에 K-AI 반도체의 활로가 있다. 정 총괄은 "(리벨리온을 포함한) K-AI 반도체가 엔비디아의 대안이 되려면 세 가지 요소가 필요하다"며 "첫째로 기술력이 최소한 엔비디아 수준은 돼야 한다. 둘째로 빅테크·클라우드 기업이 원하는 만큼 생산량이 나와야 한다. 셋째로 소프트웨어 기술력을 포함해 다양한 AI 반도체 활용 사례를 확보해야 한다"고 강조했다. 다만 이러한 빅테크·클라우드 기업의 요구를 2~3년 내로 달성하지 못하면 시장에서 살아남는 건 어려울 것이라고 정 총괄은 예측한다. 따라서 리벨리온은 우선 전 세계 이동통신사와 일반 기업을 AI 반도체 고객으로 확보한 후 마이크로소프트, 구글, 아마존 등 빅테크·클라우드 기업으로 공급처를 확대할 계획이다.