KT 하이퍼스케일 AI 서비스는 AI 컴퓨팅 파워, 개발자 툴킷, 전문가그룹의 최적화 컨설팅, 데이터센터 등으로 구성된다. AI 모델 학습, 추론에 최적화된 지능형처리장치(IPU)를 기반으로 안전하고 빠르며 필요한 만큼 추가할 수 있다.
KT가 국내 최초로 도입한 IPU는 기존 인프라보다 저렴한 가격에 고성능의 AI 컴퓨팅 서비스를 제공한다. 그래프코어사의 IPU는 그래픽 처리를 위해 설계된 GPU와 달리 병렬처리에 최적화된 AI 전용 프로세스 칩이다.
미국 퍼듀대 연구에 따르면 기존 AI 인프라에 비해 IPU는 계산 효율성, 메모리 확장성이 2~16배 향상되는 결과를 보였다. IPU는 GPU 기반의 동일 구성에 비해 60% 이상 비용이 저렴하고 40~80% 수준의 에너지 효율성까지 갖춰 향후 늘어나는 AI 연구개발 수요에도 에너지 사용량을 최소화할 것으로 기대된다.
KT 하이퍼스케일 AI 서비스를 이용하는 기업, 연구기관, 대학, 금융·의료기관 등은 많은 비용이 드는 별도의 인프라 구축 없이 AI 연구개발에만 매진할 수 있다는 장점이 있다. 합리적인 가격에 필요한 만큼 자원을 이용할 수 있고, 병렬구조를 통해 서버를 빠르게 확장할 수 있다.
하이퍼스케일 AI 서비스는 KT의 IDC 역량이 바탕이 됐다. 1999년 IDC사업을 시작한 KT는 현재 전국 14개 IDC를 운영 중인 국내 최대 사업자이다. 20년 넘게 쌓은 운영노하우와 전문인력은 국내 최고 수준이라는 평가를 받고 있다. 또한 국내 최대 테라급 인터넷 백본을 기반으로 수도권 각 IDC를 연결한 하나의 거대한 ‘원(One) IDC’ 네트워크를 구성해 대용량 트래픽에도 차질 없는 서비스가 가능하다.
이미희 KT Cloud/DX사업본부장(상무)은 “KT 하이퍼스케일 AI 서비스가 AI에 관심이 많지만, 고비용의 인프라 때문에 망설였던 기업과 기관들이 AI에 뛰어드는 계기가 됐으면 한다”면서 “KT는 국내 최고 수준의 백본망과 IDC를 기반으로 AI, 블록체인 등 차세대 핵심기술 개발을 선도할 솔루션을 지속적으로 선보이겠다”고 밝혔다.