전 세계적으로 인공지능(AI) 투자와 개발에 집중하고 있지만 아직 기업들이 실질적으로 잘 활용하진 못하고 있는 것으로 나타났다. 기업들 대부분 AI기술을 도입할 환경을 갖추고 있지 않거나 추가적 비용 부담이 큰 것으로 보인다. 또 AI 기술이 과연 기업에 실익을 가져다줄 수 있을지에 대한 의구심도 있다. 

14일 정보기술(IT) 업계에 따르면 대한상공회의소와 산업연구원이 최근 공동으로 발표한 '국내 기업의 AI 기술 활용 실태조사'에서 한국 기업의 AI 실제 활용률은 30% 수준으로 분석됐다. 국내 기업 500곳을 대상으로 AI 기술 활용 상황을 물어본 결과 응답 기업 중 78.4%가 '기업의 생산성 제고, 비용 절감 등 성과 향상을 위해 AI 기술이 필요하다'고 답했다. 하지만 현재 AI를 활용하고 있다고 답한 기업은 30.6%에 그쳤다. 

특히 제조업 활용률은 23.8%로 서비스업 분야 활용률(53%) 대비 절반에도 못 미쳤다. 3년 전 제조업 AI 도입률이 9.3%였던 것과 비교하면 2배 이상 늘었지만 여전히 저조한 편이다. 대한상의는 "AI 기술에 대한 인식 확산과 기술상용화에 따라 AI 활용 기업이 늘긴 했지만, 여전히 도입에 어려움을 겪고 있는 기업이 많다"며 "기업들의 적용 노력과 더불어 다양한 활용 촉진 방안들을 마련할 필요가 있다"고 강조했다. 

또 현재 AI 기술을 활용하지 않는 기업 절반이 향후 AI 도입을 계획하고 있지 않은 것으로 나타났다. 가장 큰 이유로 '기술·IT 인프라 부족'(34.6%)을 꼽았다. 다음으로 △비용 부담(23.1%) △AI 필요성 못 느낌(21.9%) △AI 신뢰성에 대한 의문(10.1%) △인력 부족(6.1%) 순이다. 

AI 높은 도입 비용도 문제다. 특히 거대언어모델(LLM)을 운영하려면 슈퍼 컴퓨팅 수준의 고성능 하드웨어가 필요할뿐더러 큰 전력 소모량으로 인한 비용 부담이 상당하다. 일례로 챗GPT를 구동하는 GPT-4 모델은 하루 운영 비용이 약 9억원에 달하는 것으로 전해진다. 운영 비용은 도입 비용과 비례할 수밖에 없다. 

더욱이 AI를 도입해도 실제 업무 현장에서 활용도도 낮은 것으로 나타났다. 한국 딜로이트그룹의 '기업 생성형 AI 사용 현황 2024년 3분기’ 설문에 따르면 전체 기업 중 68%가 생성형 AI 실험 사용 중 30% 이하만이 실제 비즈니스에 접목하고 있다고 답했다. 생성형 AI를 도입하려고 테스트해보고 실제 업무 활용 단계로 나아가는 비율이 30% 이하라는 의미다. 

기업들의 도입 장벽을 낮추려면 정부와 공공기관 지원이 필요하다는 지적이 나온다. 초기 비용 부담을 줄이기 위해 정부 차원에서 보조금이나 세제 혜택이 제공돼야 한다고 주장한다. 이 밖에 기술 지원과 교육 프로그램 운영 등을 통해 도입률을 높일 수 있을 것으로 기대된다. 

현재 AI를 자체 개발해 업무에 활용하고 있는 A기업은 "기업이 자체적으로 고성능 컴퓨터, 실증장비 등 AI 인프라를 조성하는 데에는 상당한 비용이 들어 부담이 크다"면서 "정부 차원에서 기업들이 공동으로 사용할 수 있는 AI 공용 인프라를 조성해주길 바란다"고 말했다.. 오픈소스를 활용해 AI 기술을 개발하고 있는 B기업도 "정부 차원에서 더 많은 AI 인재를 양성하고, 중견·중소기업에서 AI 인재 채용 시 인센티브를 부여하는 등 지원책을 마련할 필요가 있다"고 말했다.