[넥스트 AI 리더] 이활석 업스테이지 CTO "독보적 AI B2B 회사 되겠다…'파운데이션 모델' 활용 방법 무궁무진"

 

이활석 업스테이지 CTO [사진=업스테이지]

구글·마이크로소프트 같은 미국 빅테크 기업 간 초거대 인공지능(AI) 기술 경쟁으로 정보기술(IT) 시장 판도가 흔들리기 시작했다. 기업 간 거래(B2B) 시장에서 챗GPT와 같은 혁신적인 AI 서비스를 업무에 도입하는 수요가 커지면서 기존 IT 업체 간 경쟁과 협력 생태계가 재편될 전망이다. AI 혁신 기반으로 꼽히는 ‘초거대 언어 모델(LLM)’ 분야에서 네이버 AI 조직인 클로바·파파고 출신 전문가들이 2020년 설립한 한국 신생 업체 '업스테이지'가 빅테크 기업과 어깨를 나란히 하는 기술력으로 두각을 나타내고 있다. 아주경제는 이활석 업스테이지 최고기술책임자(CTO)와 기업의 AI 경쟁력을 확보할 방안을 주제로 인터뷰를 진행했다.

다음은 이 CTO와 일문일답한 내용.

-과거 엔씨소프트 AI센터 AI랩 비전 TF에 있었고 3년 전 네이버에서는 클로바 비주얼 AI 책임리더를 담당했다. 국내 게임·포털 대표 기업을 박차고 나와 이직과 창업을 결심한 배경과 동기가 궁금하다.

“(조직이) AI 기술을 도입하거나 자체 개발할 때 비용이 너무 크다는 인식이 형성된 상황이었다. 그 비용을 낮춰야 더 많은 기업이 AI를 사용할 것이고, 이것이 한국 AI 생태계를 생각할 때 가장 시급한 일이라는 데 뜻을 모은 동료들과 창업하게 됐다. 많은 고객에게 AI로 가치를 느낄 수 있게 하자는 공동 창업자들 의지를 담아 우리 회사 미션을 ‘AI를 이롭게 만드는(making AI beneficial)’ 것으로 잡았다.”

관련기사

• 하정우 네이버클라우드 AI이노베이션 센터장 "하이퍼클로바X 앞세워 글로벌 선두 도약"
• 차상균 "생성형 AI 시대, 한국에도 데이터 플랫폼 필요...KT 등 대기업 '백본' 역할해야"

-올해 3월부터 카카오톡 채널친구 AI 챗봇 ‘애스크업(AskUp)’을 제공하고 있다. 5월 중 100만 이용자를 돌파했고 이제 이용자 수가 130만명에 달한다. 대중적 호응이 큰 이유가 뭘까.

“애스크업 사용자층 가운데 IT에 익숙하지 않은 분들이 생각보다 많다. 애스크업은 별도 가입 절차나 로그인 없이 일상적으로 친숙한 카카오톡으로 바로 쓸 수 있다. 애스크업이라는 AI 챗봇의 성격(페르소나)을 메신저 특성에 맞게 ‘친절하고 따뜻하게’ 답하도록 프롬프트 엔지니어링(prompt engineering)했다. 그리고 광학문자인식(OCR) 연동과 이미지 생성 같은 사용자가 많이 쓰는 기능을 추가한 점이 주효했다고 본다.”

-애스크업은 미국 오픈AI의 챗GPT에 업스테이지 자체 기술을 결합한 서비스다. 구체적으로 어떤 기술이 결합됐고, 그게 챗GPT 자체 기능을 어떻게 보완해 주는지 궁금하다.

“애스크업을 챗GPT와 연동하면서 단순한 연동이 아니라 여러 기술을 넣어 개발했다. 대표적으로 토큰 최적화(token optimization) 기술을 들 수 있다. 토큰 최적화는 AI 챗봇에 입력하는 토큰 사용을 최소화하되 자연스럽게 대화할 수 있는 조건을 유지하는 방법이다. 토큰 길이가 길어질수록 비용 부담이 커지기 때문에 이 방법을 적용해 놓았다. 애스크업을 ‘눈 달린 챗GPT’라 부를 수 있게 된 배경으로 OCR이 적용돼 있다. 챗봇에 입력한 텍스트뿐 아니라 이미지 글자도 자동으로 챗GPT에 전달할 수 있게 해 이미지 속 외국어를 자동 번역하는 기능 등을 제공하고 사용성을 극대화했다. 검색 용도를 지원하기 위한 ‘환각(hallucination) 방지’ 기능, 챗GPT로 답할 수 없는 날씨 등 질문에 답하는 별도 기능도 구현했다.

-명령어를 AI 특성에 맞게 구체적이고 정교하게 작성하는 프롬프트 튜닝 또는 엔지니어링이라는 개념이 주목받고 있다. AI 활용이 보편화하면 모든 개인과 기업이 이런 역량을 갖춰야 할까.

“현재 학계 움직임을 보면 프롬프트 튜닝 기술 발전이 점점 프로그래밍 형식처럼 되어 가고 있다. 프롬프트 엔지니어링이 LLM 성능을 높이기 위한 강력한 수단 중 하나이니 개인 업무에 LLM을 활용한다면 프롬프트 엔지니어링 역량이 어느 정도 요구된다. 그런데 이건 현재 기술 수준에서 말씀드리는 것이다. 프롬프트 엔지니어링을 한다는 것 자체가 다른 관점에서는 (AI의) 사용성이 떨어진다는 점을 의미한다. 그런 고도의 엔지니어링 없이 자연스러운 일상 대화만으로 고품질 답변이 나올 수 있는 기술이 계속 개발될 것이라고 본다.”

-OCR과 컴퓨터 비전(computer vision) 분야에서 전문성을 쌓았다. 이 두 분야는 전체 AI 영역에서 어떤 점 때문에 중요한가.

“OCR은 LLM이 중시되기 전부터 중요한 기술이었고 지금도 그렇게 간주된다. 업무상 발생하는 문서 처리 관련 작업을 자동화할 때 OCR은 핵심 기술이었다. 문서를 다루는 영역에서 OCR이 항상 필요하기 때문에 기업이 AI를 도입할 때 이 영역에 고품질 엔진을 사용하고 싶어한다. LLM 시대에는 LLM 학습 데이터를 준비하기 위해 OCR의 중요도가 더 커지고 있다. 회사 내에 (이미지 형태 또는 PDF 파일이나 글자가 추출되지 않는 문서 등) 디지털화하지 않은 다수 문서 데이터에서 텍스트를 추출해야 그 데이터로 LLM을 학습할 수 있다.”
 

[그래픽=김효곤 기자]

-챗GPT를 만든 오픈AI 사례 때문인지 AI 개발에 막대한 컴퓨팅 자원이 필수인 것처럼 인식된다. 실제로 그렇다면 이는 투자 여력이 많은 빅테크 기업에 일방적으로 유리한 상황이 아닌가.

“(작은 기업에) 위기가 되는 영역보다 기회가 되는 영역이 더 많을 것이다. 생태계 확장이 독점적인 확장보다 훨씬 빠르게 사업을 키우는 방식임을 애플과 피그마(Figma) 같은 기업과 여러 사례가 증명했다. 오픈AI와 같은 회사도 이런 방식을 취할 것이다. 그러면 오히려 작은 회사에 특화된 사업 기회가 많이 열릴 것이라고 본다. 특히 업스테이지는 그러한 특화된 사업을 만드는 데 유리한 위치에 있다. 사전훈련 모델(Pretraining model) 기반 솔루션화에 필수적인 미세조정(fine-tuning)과 프롬프트 엔지니어링 역량을 갖췄기 때문이다.”

-빅테크 기업은 방대한 데이터를 사전 훈련한 ‘파운데이션 모델(foundation model)’을 만들고 이걸 미세조정해 실용성을 극대화하는데, 스타트업에도 적합한 방식일까.

“미국을 보면 직접 파운데이션 모델을 구축하려고 하는 스타트업이 다수 있다. 파운데이션 모델을 구축하는 데 필요한 비용이 급속히 줄고 있기 때문에 파운데이션 모델을 구축하는 투자 자체는 몇 년 안에 그렇게 큰 부담을 감수할 일이 아니게 될 것이라고 본다. 오픈AI처럼 범용성을 갖춘 파운데이션 모델을 구축하는 것에 대해 ‘할 수 있느냐, 없느냐’를 떠나 ‘시장성이 있느냐’는 질문을 스타트업 스스로 해 봐야 한다. 모델을 구축하는 것과 그것으로 가치를 만드는 것은 별개 일이다. 많은 업체가 파운데이션 모델을 구축할 수 있게 된다면 그것은 기업이 특정 회사의 (파운데이션 모델에 접근하기 위한) API를 사용할 이유가 없어진다는 뜻이다. 파운데이션 모델을 효율적으로 활용하는 분야에서 (사업) 기회가 있을 것이라고 본다. 파운데이션 모델 활용 방법은 무궁무진하다.”

-검색 영역에 초거대 AI 기술 기반 챗봇 기능을 결합하는 움직임이 있다. 빌 게이츠 같은 사람은 AI 챗봇이 고도화하면 인간이 검색·쇼핑 사이트에 일일이 들를 필요가 없어질 것이라고 예측한다. 동의하나.

“일반 사용자가 챗GPT 등장 이후 놀라워하는 점 가운데 하나가 AI와 (자연스러운) 대화를 할 수 있다는 부분이다. 그래서 (기업이) 사용자 인터페이스 측면에서 채팅 인터페이스를 선택하는 사례가 많아지고 있다. 인터페이스를 채팅으로 할 때 편리한 서비스가 있고 아닌 서비스도 있을 것이다. 채팅이 검색 서비스 사용자 인터페이스를 대체할 가능성이 있다고 생각한다. 그 이유는 누구나 자신이 원하는 정보나 상품에 대한 지식을 한번에 얻고 싶어하는데 이는 채팅 기반 인터페이스에 쌓인 대화 이력이나 시스템 로그 정보를 기반으로 충분히 구현할 수 있을 것 같기 때문이다.”

-자연어 처리, 컴퓨터 비전, 음성·영상 관련 AI 기술이 결합하는 ‘멀티 모달(multi-modal) AI’ 응용 사례가 늘고 있는데 이에 대비하고 있나.

“예상해 왔던 흐름이다. 우리는 그래서 각 기술 분야별 전문성을 확보하려고 노력했다. 멀티 모달 사례뿐만 아니라 AI 기술과 다른 기술을 조합해 새로운 기회를 찾는 탐색 작업도 함께 하고 있다. 기회의 땅으로 여겨지는 AI 영역 안에서 ‘가능하겠다’ 싶은 것에 대해 빠르게 실험할 수 있는 준비와 실행 역량이 중요한 요소다. 업스테이지는 그런 실험이 자유롭게 일어날 수 있도록 인력 구성과 기업 문화 같은 환경을 구축하려고 노력하고 있다. 애스크업이 그런 실험 정신이 빛난 사례 중 하나다.”

-미국·중국이 국가 AI 역량 강화 정책을 추진하고 있고 한국 정부도 AI 경쟁력을 강조한다. 한 나라가 AI 기술 경쟁력과 산업적 역량을 높이기 위한 선제 조건은 뭘까.

“사회적 포용력이 중요하다. AI 기술과 서비스는 새로운 분야이면서 빠르게 발전하고 변화한다. 이 흐름에 처지지 않고, 나아가 더 앞서기 위해서는 AI에 대한 관용과 이해가 필요하다. 개인과 기업은 제품과 서비스 품질을 제대로 평가해야 하고 AI에 사용되는 기술이 무엇인지 구애받지 않아야 한다. AI의 특성과 한계를 이해하고 고려해야 올바른 판단을 할 수 있다. AI에 대한 관용과 이해가 부족하면 우수한 제품이 인정받거나 활용되지 못하고 AI 생태계 성장과 발전에 장애가 될 수 있다. 국가 차원에서 국민의 AI 이해도를 개선하고 제품과 서비스에 대한 수용성과 신뢰도를 높여야 한다고 본다.”
 

[그래픽=김효곤 기자]

-업무에 AI 기술을 맞춤 활용하도록 돕는 기업용 솔루션을 제공하고 있다. 일반 소비자 대상 AI 서비스보다 기업용 AI 기술과 제품 개발 시장에 더 집중하려는 것인가.

“B2B 시장에 집중하는 것이 맞는데, (사업 영역이) B2B인지 B2C인지에 따라 AI 기술 자체가 크게 달라지는 것은 없다. 이 기술을 어떻게 상품화해 어느 사용자에게 제공할 것인지 고려했을 때 현재 B2B 쪽을 바라보고 있을 뿐이다. 애스크업처럼 우리 회사가 확보할 기술이 있고 그 기술로 만들어낼 수 있는 가치가 (B2B 시장보다) B2C 쪽에 더 크다면 B2C 상품으로 제공할 가능성도 열어 두고 있다.”

-스스로 AI 전문 인력과 조직을 꾸려야 한다고 인식하는 기업이 많아졌다. 그럼에도 기업용 AI 솔루션 시장에 기회가 크다고 보는 이유는 무엇인가. 실제로 성과를 거두고 있는지 궁금하다.

“조직 내부에 전문 인력과 조직이 있어야 한다는 생각에 공감한다. 다만 기업이 AI 전문 인력을 확보할 수 있는지, 이 조직을 꾸리고 운영할 때 투자 대비 효과가 있을지 함께 판단해야 할 것이다. 앞으로 AI를 적용하는 회사는 계속 늘어날 것이다. 사용성에 문제가 없다면 업스테이지의 ‘AI 팩(Pack)’과 같은 외부 솔루션이 훨씬 경제적이고 비즈니스 효과를 크게 기대할 수 있는 방법이다. 그렇게 때문에 AI 솔루션 시장이 앞으로 계속 성장할 것이라고 본다. 우리 솔루션 가운데 도큐먼트(Document) AI는 △KB국민은행 △한화생명 △삼성생명 등 금융권에서 도입한 사례가 있고, 추천 AI 기술은 △꾸그 △브랜디 △롯데온 등 뷰티·커머스 업종 기업에 공급했다. B2B 시장의 꽃이라고 할 수 있는 보험업계에서 선두권에 있는 고객사에 AI 솔루션을 납품했다는 점에서 대표 사례로 꼽고 있다.”

-재무적 성과와 후속 투자 유치 계획을 포함한 국내 사업 목표, 글로벌 진출 전략 등 업스테이지의 성장 로드맵을 제시해 달라.

“일단 주요 제품인 △도큐먼트 AI 팩 △애스크업 서제스트(AskUp Seargest) △AI 교육 콘텐츠를 가지고 국내에서 독보적인 AI B2B 회사가 되는 것이 일차 목표다. 어느 정도 가시적인 성과가 나온 후 일본을 시작으로 동남아, 아시아 쪽으로 (사업 지역을) 확대할 계획이다. 특히 일본은 다양한 부문에서 디지털 전환 필요성이 점차 대두되는 지역이다. 문서 자동화와 같이 아직 변화하지 못한 분야에서 우리 기술이 기반 역할을 할 것이라고 본다. 내년 손익분기점 돌파를 목표로 하고 있다. 후속 투자는 변수가 많아 확정적으로 답하기 어렵다.”

-한국 스타트업으로서 해외에 진출할 때 국내 클라우드 인프라 서비스 업체와 협력해야 한다는 주장이 있고, 글로벌 클라우드 기업과 협력하는 것이 현실적이라는 인식도 있는데, 어떻게 보나.

“어느 부분까지 커스터마이징을 대응해 줄 수 있는지, 대응 속도는 어느 정도인지를 감안할 때 국내 클라우드 인프라 서비스가 더 나을 수도 있다고 생각한다. 충분히 고려할 만한 선택지다.”

-일반적인 B2B 영역과 특성이 다른 버티컬 영역이나 공공 시장 진출 계획도 있나.

“AI 기반 제품에 대한 시장 검증 정도와 성숙도가 높지 않은 편이어서 시장에서 제품에 대해 피드백을 받고 수정하는 주기가 짧을수록 좋다. 이런 면에선 (사업을 영위하는 AI 업체에) B2C가 최선일 수 있다. 그러나 매출 규모와 안정성을 고려하면 제품 개선 주기가 다소 길어지더라도 다른 시장을 선택할 수 있다. 공공 조달 같은 분야는 안정적으로 제품을 공급하기에 더 적합한 시장으로 보고 있다. 당장은 아니지만 우리 제품이 시장에서 어느 정도 검증된 후 진출할 계획이다.”
 

이활석 업스테이지 CTO [사진=업스테이지]