아시아 태평양 지역 조직이 생성 인공지능(AI) 기술을 가장 많이 활용하는 사례는 조직 내 문서, 음성, 이미지와 같은 데이터를 찾고 업무 관련 정보에 접근하는 ‘지식 관리(Knowledge management)’ 분야라는 조사 결과가 나왔다. 기존 기업 검색·업무포털 시스템을 보완하거나 대체하는 생성 AI 기반 기업용 지식 관리 솔루션 수요가 확대될 전망이다.

시장조사업체 한국IDC는 ‘IDC 서베이 스포트라이트: 아태 지역 조직의 생성 AI 도입 및 적용 동향’ 보고서를 발간했다고 5일 밝혔다. 이 보고서 설문조사에서 아태 지역 조직 32%는 생성 AI 기술에 적극적으로 투자하겠다고 답했고 38%는 생성 AI 적용을 위해 다양한 사례를 참고하겠다고 답했다. 디지털 퍼스트 조직은 마케팅, 영업, 고객 지원, 연구개발, 디자인, 제조, 공급망, 금융 등 분야에 생성 AI를 핵심 요소로 활용할 전망이다.

아태 지역 최다 생성 AI 활용 사례인 지식 관리를 통해 기업은 다양한 유형 이미지, 문서, 음성 및 기타 형식의 대규모 정보 저장소에 접근하고 검색에 활용한다. 두 번째로 많은 생성 AI 활용 사례는 코드 생성인데, 개발자가 코드를 작성하고 최적화하고 완료, 테스트, 디버그하는 과정에 생성 AI가 쓰인다. 마케팅 자동화와 대화형 애플리케이션과 같은 대고객 서비스에 활용돼 맞춤형 마케팅과 검색 엔진 최적화 콘텐츠 작성을 지원한다.

AI 기술에 관심이 높아지면서 인프라를 제공하는 클라우드 서비스 공급업체, 포인트 솔루션을 제공하는 AI 엔지니어링 업체, 관련 솔루션 호스팅 인프라를 판매하는 전문 스토리지 업체 등이 우위 선점을 위해 시장에 뛰어들고 있다. 방대한 초거대 언어 모델(LLM) 테스트 데이터에 개인정보와 같은 민감 데이터 사용과 데이터 편향 문제를 해결하기 위해 모델 훈련 목적으로 쓸 수 있는 합성 데이터를 제공하는 기업이 급증하는 추세다.

생성 AI 활용시 막대한 컴퓨팅과 에너지 비용을 수반하는 단점 때문에, 재훈련이나 매개변수 조정 없이 올바른 응답을 도출하기 위해 단순한 자연어 질의를 작성하고 컴퓨터를 훈련하는 프롬프트 엔지니어링 기법이 주목받고 있다. 아태 지역 생성 AI 규제는 아직 제대로 마련되지 않았았고 일본, 인도와 중국 등 각국 정부가 서로 다른 AI 규제 방침을 보이지만 해당 기술에 대한 공통되고 일관된 접근을 해야 한다.

디피카 기리(Deepika Giri) IDC 아태 지역 빅데이터 및 AI 리서치 헤드는 “생성 AI는 조직 환경을 이전과 다른 새로운 방식으로 재창조할 잠재력이 있어 AI기술을 적용할 때 내재된 복잡성과 위험성을 간과해서는 안 된다”며 “생성AI 기술은 대부분 활용 초기 단계에 머물러있기에 공급 업체들이 AI 기술과 관련된 개인 정보 보호, 보안, 정확성, 저작권, 편향 및 남용 문제를 아직 완전히 해결하기는 어렵다”고 말했다.