KT클라우드 "HAC로 초거대 AI 활용 문턱 낮춘다"

이상우 기자 2022-12-20 10:53

민첩성, 경제성, 유연성, 인프라 운용 효율성 강점

스캐터랩 '이루다' 연구개발에 활용...학습 기간 단축

KT클라우드가 NIPA 주관 '2022년 하반기 초거대 AI 활용 등을 위한 고성능 컴퓨팅 지원 사업'에서 국내 AI 기업, 연구기관, 대학교에 초거대 AI 컴퓨팅(HAC) 서비스를 제공했다고 20일 밝혔다.[사진=KT클라우드]

KT클라우드가 정보통신산업진흥원(NIPA) 주관 '2022년 하반기 초거대 인공지능(AI) 활용 등을 위한 고성능 컴퓨팅 지원 사업'에서 국내 기업, 연구기관, 대학교에 초거대 인공지능 컴퓨팅(HAC) 서비스를 제공했다고 20일 밝혔다.

이번 사업은 NIPA가 지난 2021년부터 연간 240억원 규모로 추진한 지원사업의 일환이다. 올해 9월부터 12월까지 진행된 이번 사업은 국내 초거대 AI 활용과 확산을 촉진하고, AI 생태계를 활성화하는 것이 목표다.

KT클라우드의 HAC는 대규모 그래픽 프로세서(GPU) 클러스터를 가상화해, AI 연산·개발 과정에 필요한 대규모 GPU 자원을 동적으로 할당·반납하는 독자 기술을 갖췄다. 이를 통해 필요할 때 필요한 만큼만 사용하는 종량제 AI 인프라 서비스를 제공한다. 스타트업 등 기업이나 연구소 등도 대규모 GPU 인프라를 별도 구축 없이 사용할 수 있어 효율적이다.

KT클라우드 측은 HAC를 통해 대규모 GPU 자원을 유연하게 확장할 수 있고, 사용량 기반 과금 방식으로 △비즈니스 민첩성 △우수한 경제성 △개발환경 맞춤 유연성 △인프라 자원 운용 효율성을 제공한다고 설명했다. 연산 실행 시 GPU가 사용된 시간만큼 요금이 부과돼, 인프라를 30~50% 낮은 가격으로 이용하거나 같은 비용으로 더 오랜 기간 연구를 진행할 수 있다.

관련기사

개발자는 GPU 수량을 실시간으로 조절해, 유연한 개발 환경을 마련할 수 있다. 또한 서비스 내 내장된 컴파일러가 멀티 GPU 분산과 최적화 기능을 대행해, 개발과 운용 부담을 줄인다.

이번 사업에 지원한 스캐터랩은 지난 19일 열린 성과 보고회에서 HAC 활용 사례를 발표했다. 스캐터랩은 AI 챗봇 '이루다' 서비스의 초거대 AI 모델 개발과 높은 수준의 대화를 구현하는 컴퓨팅 자원, 비용, 학습 소요 기간에 대한 부담이 있었다. 이번 사업에서 HAC를 이용하면서 초현실적 규모의 컴퓨팅 자원을 활용할 수 있었고, 같은 비용으로 훨씬 짧은 시간 안에 학습을 완료해 서비스를 고도화할 수 있었다고 밝혔다.

향후 KT클라우드는 대기업, 스타트업, 연구기관 등 다양한 분야에서 HAC를 활용해 AI를 연구개발할 수 있도록 대규모 GPU팜 구축을 지속 확대할 방침이다. 특히 AI 비즈니스 다각화는 물론, 향후 AI 반도체를 직접 개발해 인프라, 하드웨어, 소프트웨어의 경쟁력을 모두 갖춘 AI 풀스택 사업자로 거듭난다는 목표다.

남충범 KT클라우드 클라우드본부장은 "HAC는 AI 연구와 서비스 개발에 필요한 대규모 GPU 자원 활용이 쉬워진 반면, 비용 부담은 획기적으로 줄인다. 초거대 AI 개발 기업과 연구기관에 매우 유용하다. 향후 인프라 확충과 다양한 협업으로 대한민국 초거대 AI 산업 성장을 선도하겠다"고 밝혔다.