SKT "멀티 LLM으로 기업·공공 챗GPT 구축...AI 학습도 슈퍼컴으로 대행"

SKT 기업·공공사업 담당 구성원들이 멀티LLM 교육을 받고 있다. [사진=SKT]

SK텔레콤(SKT)이 기업이 ‘사내 챗GPT(가칭)’를 구축·운영할 수 있도록 다양한 초거대언어모델(LLM)을 제공하는 '멀티 LLM 전략'을 본격화한다.

23일 인공지능(AI) 업계에 따르면 SKT는 이날 기업·관공서용 생성형 AI 시장 공략을 위한 전략을 발표했다. SKT의 기업 간 거래(B2B) 사업을 맡는 SKT 엔터프라이즈 사업부 주도로 진행하는 멀티 LLM 전략을 통해 SKT는 외부 데이터 유출 걱정이 없는 사내 챗GPT 구축 시장을 선점한다는 계획이다.

구체적으로 SKT는 △자체 개발한 '에이닷 LLM' △최근 1억 달러 규모 투자를 단행한 미국 앤트로픽의 '앤트로픽 LLM' △지난해 투자를 진행한 코난테크놀로지의 '코난 LLM' 등 세 가지 LLM 가운데 기업·관공서가 선택할 수 있도록 관련 준비를 마쳤다. 기업·관공서가 자사 수요에 맞춰 세 가지 LLM 가운데 하나를 고르면 SKT 엔터프라이즈가 해당 LLM에 기업 데이터를 학습시켜 기업·관공서용 언어모델을 완성하는 사업 구조(BM)다.

SKT는 우선 한국어 학습에 특화한 에이닷 LLM의 기업용 '기본 모델(Foundation Model)'을 8월 출시하고 고객사 데이터 학습 등을 포함한 최적화 작업을 진행 중이라고 설명했다. SKT와 앤트로픽은 SKT의 주요 B2B 서비스와 앤트로픽 LLM을 결합해 판매하는 방안을 협의 중이다. 기능 통합 작업이 마무리되는 올해 4분기부터 실제 서비스 제공이 가능할 것이라고 회사 측은 설명했다. LLM 기본 모델은 문서요약, 문서생성, Q&A 등 언어모델이 수행할 수 있는 기본 기능을 갖춘 AI 소프트웨어다. 여기에 기업 데이터를 넣어서 학습시켜 고객이 원하는 방향으로 조율(파인튜닝)하는 과정을 거쳐야 제대로 된 기업·관공서용 언어모델이라고 할 수 있다.

관련기사

• SKT, 16번째 'DJSI 월드지수' 편입 성과
• SKT, 대한민국 디지털 광고대상 4개 부문 수상...AI 활용한 콘텐츠 돋보여

에이닷 LLM은 학습한 데이터의 특징상 챗봇 시스템 구축 등에 강점이 있고 앤트로픽 LLM은 AI 윤리원칙을 미리 학습시켜둬서 선을 넘는 발언이나 헛소리(할루시네이션)를 잘 하지 않는 강점이 있다. 특히 앤트로픽 LLM은 자료 입력시 소설책 한 권에 해당하는 텍스트(10만 토큰)를 통째로 입력할 수 있어 대화형 데이터베이스 구축에 적합하다. 이에 SKT는 유창한 한국어 구사 능력이 필요한 국내 관공서·중소기업용 중소 LLM 시장은 에이닷 LLM을 중심으로, 클라우드가 강제되는 대기업용 대형 LLM 시장은 앤트로픽 LLM 위주로 사업을 전개할 방침이다.
 

슈퍼컴퓨터 '타이탄' [사진=SKT]

SKT는 이러한 멀티 LLM 서비스를 제공하기 위해 국내 최고 수준의 언어모델 학습용 슈퍼컴퓨터 '타이탄'을 지난해부터 준비해 왔다. 전 세계 슈퍼컴퓨터 성능을 집계하는 톱500 재단에 따르면 SKT 타이탄은 올해 상반기 기준 초당 14.24페타플롭스의 성능으로 전 세계 47위(국내 민간 기업 2위)로 집계됐다. 기업·관공서가 원할 경우 SKT가 타이탄으로 AI 모델 학습을 대신 진행한다.

AI 모델 운영(추론)비가 부담되는 기업·관공서를 위해 사피온의 추론용 AI 반도체 'X330'을 풀스택(하드웨어+소프트웨어)으로 공급하는 방안도 준비 중이다. X330을 활용하면 AI용 하드웨어 도입(구매비) 및 운영(전기료)에 필요한 비용을 절감할 수 있다는 게 SKT 측 설명이다.
 
SKT 엔터프라이즈는 장기적으로 클라우드 관리(MSP)뿐 아니라 AI 관리까지 제공하는 AI 풀스택 사업자를 목표로 한다. 최근 SKT가 지분을 투자한 페르소나AI의 AI 콜센터(AICC)와 멀티 LLM을 결합해 AICC 서비스 품질을 끌어올리는 방안도 추진하고 있다.

SKT 관계자는 "국내에선 정부 부처, 공기업, 금융사 등을 중심으로 LLM 서비스 수요가 우선 나타날 것으로 본다"며 "초기 단계지만 국내 대형 제조사를 중심으로 제조업용 AI 수요도 생기고 있다"고 설명했다. 이에 SKT는 행정안전부, 과학기술정보통신부, 디지털플랫폼정부위원회 등 정부가 추진 중인 공공 LLM 도입 사업을 수주하고, 금융권의 LLM 도입 프로젝트에도 파트너사들과 함께 참여해 성과를 낼 계획이다. SK그룹사의 사내 LLM 도입이나 '제조업+AI 프로젝트'를 위한 협의도 진행하고 있다.

김경덕 SK 엔터프라이즈 CIC장(부사장)은 멀티 LLM 교육에 참여한 SKT 구성원들에게 "중요한 것은 고객의 요구 사항이다"라며 "다양한 멀티 LLM 조합을 기반으로 고객들이 실제 필요로 하는 서비스를 신속하게 제공하는 것이 중요하다"고 강조했다.