리벨리온-스퀴즈비츠, K-AI 반도체에 최적화한 AI 모델 경량화 맞손
2024-05-29 13:27
스퀴즈비츠는 정확도 손실을 최소화하면서도 AI 모델의 계산량을 압축할 수 있는 경량화 기술을 지원하고, 리벨리온은 이에 맞춰 국내 최초로 소형언어모델 가속이 가능한 AI 반도체를 양산하는 게 목표다.
이번 파트너십을 기반으로 양사는 각사가 가진 AI 경량화 노하우와 AI 추론 전용 하드웨어 기술을 바탕으로 다양한 소형언어모델을 리벨리온의 AI 반도체에 최적화할 계획이다.
스퀴즈비츠는 현재 지원 중인 엔비디아 데이터센터 GPU 뿐 아니라 리벨리온의 AI 반도체로 생성AI 모델을 경량화할 수 있는 기술적 기반을 확보하게 된다. 리벨리온은 자사 하드웨어에 최적화된 경량화 언어모델을 활용해 AI 반도체 판로를 확대할 계획이다.
이번 파트너십은 생성AI에 특화된 하드웨어를 기반으로 경량화 소프트웨어 기술을 개발하는 국내 최초 사례다. 양사는 지속가능한 생성 AI 서비스 제공 환경을 구축하고, 나아가 국내 AI 생태계 발전에 기여할 계획이다.
리벨리온 측은 "이번 파트너십은 생성 AI 추론에 필요한 비용을 최소화하려는 기술 트렌드를 반영한 것"이라며 "기업이 제한된 컴퓨팅 자원으로도 효과적으로 AI 서비스를 운영할 수 있도록 두 회사가 협력할 계획"이라고 설명했다.
김형준 스퀴즈비츠 대표는 "리벨리온과 협력으로 생성 AI 기반 서비스 기업 고객들에게 더 다양한 하드웨어 옵션을 제공할 수 있게 되었다"며 "다양성을 바탕으로 각각의 서비스에 가장 최적화된 하드웨어와 경량화 기술을 제공함으로써 기업들이 더 효율적으로 AI를 사용할 수 있게 지원할 것"이라고 말했다.
박성현 리벨리온 대표는 "AI 반도체와 AI경량화 기술은 지속가능하고 비용효율적인 AI 비즈니스를 위한 필수요소로 자리잡고 있다"며 "이번 파트너십으로 사용자들에게 리벨리온의 AI 반도체 상에서 경량화된 생성 AI 모델을 활용해 부담없고 손쉽게 AI를 도입할 수 있는 기회를 제공할 것"이라고 밝혔다.