LG 엑사원 3.0에 엔비디아 GPU·프레임워크 활용… AI 협력 강화

2024-09-24 09:45

[사진=엔비디아]
LG그룹과 엔비디아의 인공지능(AI) 협력이 강화된다.

엔비디아는 LG AI연구원의 최신 생성형 AI 모델 '엑사원 3.0'에 자사 그래픽처리장치(GPU) H100 제품과 네모(NeMo) 프레임워크가 활용됐다고 24일 밝혔다.

엔비디아에 따르면 네모는 어디서든 생성형 AI 모델을 구축한 뒤 배포할 수 있는 '엔드 투 엔드' 프레임워크로, 거대언어모델(LLM)을 빠르게 훈련하고 맞춤화하며 규모별로 배포해 솔루션 구축 시간을 단축할 수 있다.

엔비디아는 또 엑사원 3.0이 AI 플랫폼에서 최신 LLM의 추론 성능을 가속화하고 최적화하는 자사의 소프트웨어 개발 도구(SDK) '텐서RT-LLM'를 기반으로 한다고 밝혔다.

지난달 발표된 엑사원 3.0은 메타의 라마(Llama) 등 동급 규모 오픈 소스 AI 모델과 비교해 한국어와 영어에서 우수한 벤치마크 성능을 갖췄다는 평가를 받았으며 연구 목적으로 누구나 자유롭게 활용할 수 있다.

LG그룹 내에서도 엑사원은 다양하게 활용되고 있다. LG유플러스에서는 엑사원 기반의 통신, 플랫폼 데이터 특화의 생성형 AI인 익시젠(ixi-GEN)을 출시한 바 있다.