제조업부터 서비스업까지 산업 전반에서 생성 인공지능(AI) 기술을 별개로 생각하기 어려운 세상이다. 시장조사업체 가트너에 따르면 최근 조사에서 설문에 참여한 기업 중 70%가 지속 가능하고 윤리적인 AI 사용 사례를 가장 큰 관심사로 꼽았다.

정보기술(IT) 서비스 기업 킨드릴코리아는 고객사가 사업 목표를 달성하는 데 AI를 가장 잘 활용하는 방법을 찾아 더 나은 결과를 도출할 수 있도록 지원하는 데 주력하고 있다. 30년 이상 복잡한 IT 환경을 운영·관리해온 노하우에 생성 AI를 접목해 고객사의 미션 크리티컬 환경(고신뢰·고위험) 통합을 수행하고 있다. 지원 대상 고객사는 방대한 데이터를 실시간으로 다뤄야 하는 이동통신사, 물류, 공항 등 다양하다. 킨드릴코리아는 문서 요약부터 텍스트·코드 생성, 감정 분석과 분류, 기업서비스(엔터프라이즈) 검색 등 다양한 분야에서 생성 AI를 활용해 글로벌 1위 IT 서비스 기업으로 자리매김한다는 포석이다.
 
킨드릴은 2021년 11월 인터내셔널 비즈니스 머신(IBM) 내 매니지드 인프라 서비스(MIS) 부문이 인적 분할로 독립해 출범한 IT서비스 기업이다. 본사 영향을 받은 각 국가 IBM에서도 분할이 이뤄졌고, 킨드릴코리아도 이와 맥을 함께한다. 킨드릴의 주요 서비스 분야는 멀티클라우드 관리, IT 오케스트레이션, 통합 모니터링이다. 

서비스 영역을 세부적으로 나누면 글로벌 시장에서는 △클라우드 △코어 엔터프라이즈·지클라우드 △디지털 워크플레이스 △애플리케이션(앱)·데이터와 AI △네트워크·에지 △보안·복원력 등 6개 영역으로 나뉘어 있다. 국내에서는 앱·데이터와 AI, 클라우드, 보안·재해복구, 네트워크·에지 등 총 4가지 영역에 집중하고 있다.

킨드릴은 불과 몇 달 만에 마이크로소프트(MS)·구글 클라우드·아마존웹서비스(AWS) 등 글로벌 톱3 클라우드 서비스 제공 업체들과 잇달아 파트너십을 맺으며 존재감을 알렸다. 현재는 미국 포천 100대 기업 중 75% 이상과 63개국 4000여 개 기업 고객을 보유하고 있다. 전 세계 60여 개국에 직원 9만여 명을 두고 있어 신생 기업이라는 표현이 무색하다고 평가받는다.

킨드릴은 기업 서비스에 생성 AI를 도입하기 위해 고려해야 할 핵심 세 가지 영역으로 책임감, 보안·개인정보 보호, 새로운 기술을 꼽았다. 무엇보다 고객사가 AI를 사회와 자사 환경에 맞게 잘 활용할 수 있도록 해야 한다는 인식이다.

킨드릴 측은 특히 AI 잠재력을 제대로 활용하기 위해서는 무엇보다 비즈니스 목표에 부합하는 데이터 전략의 개발·구현, 데이터 거버넌스·데이터 품질 등을 포함해 올바른 데이터 기반을 구축하는 것부터 시작해야 한다고 강조했다. 엄청난 데이터를 내포하고 있는 현대화된 '데이터 아키텍처'를 AI가 올바르게 사용하도록 하는 것이 그 어느 때보다 중요하기 때문이다. 데이터 아키텍처는 기업의 모든 업무를 데이터 측면에서 처음부터 끝까지 체계화하는 것을 의미한다.

기업이 생성 A를I 적용한 주요 활용 사례를 보면 △리포트·비디오 등 내용 요약 △콘텐츠·코드 생성 △챗봇·가상 어시트턴트 등 고객 지원 서비스 △서류·오디오 파일 등 분류 작업이다. IBM에서 시작된 킨드릴은 30년 이상 복잡한 IT 환경을 운영해온 노하우와 내부적인 AI 적용 경험, 수준 높은 역량으로 AI와 생성 AI를 고객사 환경에 맞춰 지원할 수 있다는 설명이다.
 
킨드릴은 자사 기술력에 AI 잠재력을 적극 활용해 새로운 성장을 도모한다는 방침이다.

킨드릴은 자사 운영은 물론 고객 비즈니스에 AI를 사용할 수 있도록 지원하고 있다. 특히 킨드릴은 신규·기존 고객에게 생성 AI 솔루션의 개발·도입을 탐색할 수 있는 '엔드 투 엔드' 서비스를 제공하는 킨드릴 컨설트 조직 안에서 'AI 준비 프로그램'을 진행 중이다. AI 준비 프로그램은 △공동 혁신 △고객·직원 경험 향상 △강력한 데이터 기반 구축 △실행 △관리 등 서비스 전 영역을 포함하며 핵심에는 킨드릴의 생성 AI 관리 솔루션(LLMOps)이 있다.

LLMOps는 △프롬프트 관리 △가시성 △오케스트레이션 △보안·개인정보 보호 등 4개 영역에서 서비스된다. 우선 프롬프트 관리 영역에서는 텍스트 생성, 언어 번역 등 어떤 업무에 초거대언어모델(LLM)을 적용해야 할지를 식별해 이를 위한 학습 데이터와 지침 등 관련 정보를 수집한다. 이후 프롬프트를 만드는데, 프롬프트는 명확하고 간결해야 하며 특정 작업과 LLM 조건에 맞게 조정한다.

가시성 영역에서는 LLM 입출력 로깅(데이터를 모으는 것) 시간 경과에 따른 LLM 성능을 추적하고 문제를 식별하는 데 사용할 수 있다. 정확도나 지연 시간과 같은 LLM 성능을 모니터링해 문제를 나타낼 수 있는 성능 변화를 파악 가능하다. 오케스트레이션 영역에서는 어떤 순서로 어떤 작업을 수행해야 하는지 파이프라인의 각 단계에 적합한 LLM을 선택하도록 한다. 파이프라인의 성능을 모니터링하고, 문제를 식별·수정하며 필요에 따라 파이프라인을 변경하도록 한다. 마지막으로 보안·개인정보 보호 영역에서는 LLM이 생성할 수 있는 콘텐츠를 지정해 유해하거나 불쾌감을 주거나 편향된 콘텐츠를 방지할 수 있게 해 준다. LLM 결과물을 검토해 데이터 유출, 적대적 공격과 같은 잠재적인 보안 또는 개인정보 보호 위험을 식별한다. 유해하거나 불쾌감을 주거나 편향된 것으로 보이는 LLM 출력을 차단하거나 제거하는 역할을 한다.

킨드릴은 AI 기반 오픈 통합 디지털 비즈니스 플랫폼인 '킨드릴 브리지'를 통해 고객의 미션 크리티컬 시스템에 대규모 AI 통합서비스를 지원하는 데 방점을 두고 있다. 킨드릴코리아에 따르면 현재까지 1200개 이상 글로벌 기업이 킨드릴 브리지를 이용한다. 특히 실시간으로 방대한 데이터가 쌓이는 공항과 이통사의 비즈니스 과제를 수행하는 것에 킨드릴 AI 기술력이 동원되면서 효과를 입증하고 있다는 설명이다. 대표적으로 공항은 매달 소셜미디어에서 수천 건의 리뷰와 피드백, 댓글을 받는다. 이에 그간 공항은 많은 인력을 투입해야 했으나 킨드릴 생성 AI 기술로 소셜미디어상 피드백을 감정이나 정보를 찾는 질문으로 분류해 적절한 응답을 생성할 수 있게 된다.
 
킨드릴은 구글 클라우드 등 생성 AI 솔루션 개발을 위해 글로벌 빅테크와 협력을 강화하고 있다. 

설립 초기부터 함께한 구글과는 차세대 AI 서비스를 신속하고 책임감 있게 제공하고 고객사 비즈니스 가치를 높이는 방안을 구상하고 있다. 최근에는 구글 LLM인 제미나이(Gemini)를 비롯한 구글 클라우드의 사내 AI 역량과 고객의 생성 AI 솔루션 개발·배포를 지원하는 킨드릴의 전문적인 관리 서비스를 결합하는 데 중점을 두고 있다. 양사가 지원할 주요 서비스 영역은 △AI와 데이터 기반 자문 △전사적 자원 계획에 코어텍스 프레임워크 적용 △생성 AI 도입을 촉진하는 킨드릴의 새 LLM 운영 프레임워크 △전문성 강화를 통해 생성 AI 개발 촉진 등이다. 특히 킨드릴은 구글 클라우드 아카데미를 통해 킨드릴 실무자가 이용할 수 있는 교육과 부트캠프(전지훈련)를 늘려 AI·데이터 분석 기술 기반을 확대하는 데 주력할 예정이다.

MS와는 기업 생성 AI 솔루션 도입을 가속하기 위해 협력했다. 킨드릴과 MS는 공동 혁신 센터, 킨드릴의 데이터·AI 분야 특허, 그리고 마이크로소프트 365 코파일럿, 애저 오픈AI 서비스, 마이크로소프트 패브릭을 활용해 기업 전반에 새로운 생성 AI 혁신과 솔루션을 신속하게 설계·개발·추진하고 있다. 

지난달부터는 AI 반도체 시장을 장악한 엔비디아와 손잡았다. AI 기반 인사이트와 비즈니스 성과에 대한 개발·구축·사용을 더욱 가속화하기 위해서다. 킨드릴 브리지는 엔비디아 컴퓨팅·소프트웨어를 사용하는 고객사를 위한 AI 개발과 구축을 지원한다. 양사 고객사는 생성 AI 솔루션 테스트와 검증·배포하는 속도를 높이고 신속한 앱 배포와 운영 경험 향상을 위해 킨드릴 컨설트를 활용할 수 있다. 킨드릴은 추가로 엔비디아 NeMo(네모) 플랫폼과 엔비디아 NIM(님) 추론 마이크로서비스를 활용할 예정이다. 고객 지원, IT 운영 자동화, 사기·손실 방지, 실시간 분석 등 업계 공통·특정 산업의 사용 사례를 적용할 수 있도록 한다는 계획이다.

류주복 킨드릴코리아 대표는 "킨드릴은 AI와 생성형 AI 기술을 통해 고객의 IT 현대화 여정을 가속화할 수 있도록 선도적인 하이퍼스케일러들과 전략적 파트너십을 맺고 최고 수준의 품질, 윤리, 전문성을 준수하고 있다"고 설명했다. 특히 류 대표는 "킨드릴의 AI 준비 프로그램을 적극 활용해 기업의 AI 여정이 어느 단계에 있든 비즈니스 목표를 달성하는 데 AI를 가장 잘 활용하는 방법을 찾아 더 나은 결과를 도출할 수 있도록 지원할 계획"이라고 강조했다.