KT클라우드, K-AI 반도체팜 국내 첫 상용화...脫 엔비디아 속도
2023-06-27 16:00
리벨리온과 협력해 국산 '아톰' 활용한 AI 반도체팜 외부 공개
동급 엔비디아 GPU보다 도입·운영비 저렴 강점
AI 고객 요구 따라 엔비디아, AMD, 리벨리온 반도체 맞춤 제공
동급 엔비디아 GPU보다 도입·운영비 저렴 강점
AI 고객 요구 따라 엔비디아, AMD, 리벨리온 반도체 맞춤 제공
KT클라우드는 국내 AI 반도체 팹리스(설계기업) 리벨리온의 AI 반도체 '아톰'을 활용한 AI 반도체팜 서비스를 국내 최초로 상용화했다고 27일 밝혔다.
이번 서비스 상용화로 KT클라우드 고객은 누구나 전용 포탈에서 클릭 몇 번만 하면 클라우드에 AI 모델 추론(실행)을 위한 K-AI 반도체 서버(인스턴스)를 구성하고 이용할 수 있다. KT클라우드와 리벨리온의 긴밀한 협력으로 완성된 K-AI 반도체팜은 엔비디아 '쿠다 라이브러리'와 같은 역할을 하는 '리벨 라이브러리'를 활용해 AI 모델과 K-AI 반도체를 연결한다. 텐서플로, 파이토치 등 시중의 주요 오픈소스 AI 기술을 모두 지원한다.
AI 반도체는 AI 학습·추론에 특화한 설계로 동급(65W)의 엔비디아 GPU보다 AI 모델 운용에 필요한 비용(도입비·전기료)을 줄일 수 있는 게 특징이다. 때문에 구글, 아마존 등 글로벌 클라우드 기업은 독자 기술 또는 인수 등의 형태로 자체 AI 반도체를 개발해 클라우드로 다른 기업에 제공하고 있다.
국내에선 △KT클라우드(클라우드)-리벨리온(팹리스) △NHN클라우드-사피온 △카카오엔터프라이즈-퓨리오사AI 동맹이 구성돼 빅테크에 대항한 AI 클라우드 사업에 속도를 내고 있다. 네이버클라우드도 삼성전자와 협력해 자체 AI 반도체 개발에 나섰다.
KT클라우드에 따르면 이번 K-AI 반도체팜 구성에 활용한 아톰은 초거대 AI 핵심 기술인 트랜스포머 언어 모델과 딥러닝의 필수인 부동소수점연산(FP)을 지원하는 현재 유일한 국산 AI 반도체다. 경쟁사들은 컴퓨터비전(영상처리)에 특화한 AI 반도체를 1~2년 전에 출시하고 현재 자연어처리(언어처리)에 특화한 2세대 AI 반도체를 개발하고 있는 것과 대조적이다.
삼성전자 5nm 공정에서 생산돼 동급 엔비디아 GPU와 비교해 컴퓨터비전(영상처리) 모델 추론 시 약 6배, 자연어처리(언어처리) 모델 추론 시 약 2배가량 전력 효율이 우수한 것도 아톰만의 강점이다.
이번 상용화로 KT클라우드는 △엔비디아 GPU팜 △AMD GPU팜 △K-AI 반도체팜을 모두 클라우드로 제공하는 국내 유일한 업체가 됐다. 엔비디아는 전 세계 AI 반도체 1위, AMD는 2위 업체다. KT클라우드는 소형 AI 모델 학습·추론을 원하는 기업에는 엔비디아 GPU팜, 초거대 AI 모델 학습·추론을 원하는 기업에는 AMD GPU팜, 저렴하지만 성능이 우수한 AI 모델 추론을 원하는 기업에는 K-AI 반도체팜을 제공함으로써 진정한 의미에서 AI풀스택 기업으로 거듭날 계획이다. AI 풀스택이란 기업이 AI 모델 개발에 필요한 모든 자원(리소스)을 클라우드로 제공하는 것을 말한다.
윤동식 KT클라우드 대표는 "KT클라우드는 K-AI 반도체팜을 최초 상용화함으로써 한국 AI 분야 혁신을 이끌고 있다"며 "앞으로도 K-AI 반도체 산업 활성화에 앞장설 것"이라고 밝혔다.