인공지능(AI) 기술이 발전하면서 AI의 편향성이 속속 드러나고 있다. 데이터 또는 AI 개발자가 무의식중에 내포하고 있는 편향성이 AI에 고스란히 반영되고 있다는 지적이다. AI 구현의 핵심 기술로 평가받는 딥러닝(인공신경망)의 한계라는 평가마저 나온다. 이에 올해 하반기부터 AI의 편향성을 최소화하려는 IT 기업들의 움직임이 활발해지고 있다.

21일 소프트웨어정책연구소(SPRi)에 따르면, 구글은 AI 윤리 이슈 대응 경험을 바탕으로 연말까지 관련 컨설팅 사업을 추진할 계획이다.

구체적으로 구글은 AI 서비스 및 프로젝트 추진 과정에서 다양한 윤리적 논란을 겪으며 AI 윤리 원칙을 발표하는 등 AI의 편향성에 대응하는 노하우를 축적했다. 예를 들어 지난 2015년 구글포토는 흑인을 고릴라로 인식해서 자동 분류하기도 했고, 2018년에는 미국 국방부의 AI 기반 무인 드론 프로젝트 참여를 두고 직원들의 반발에 직면하기도 했다.

이에 구글은 개발자가 AI의 공정성, 안정성을 평가할 수 있는 도구를 개발해 외부에 무료 공개했으며, 이어 연내에 기업 고객을 대상으로 AI 윤리 컨설팅을 제공하기로 결정했다. AI의 윤리적 딜레마로 고민하는 기업이 늘어남에 따라 이를 해결해주는 컨설팅 사업이 충분히 시장성이 있다고 판단한 것이다.

구글의 AI 윤리 컨설팅은 클라우드 서비스(Ethics as a Service, EaaS) 형태로 제공한다. AI 알고리즘의 편향성, 안정성 등을 클라우드 시스템을 통해 자동으로 검증하는 서비스를 제공할 것으로 전망된다. 이는 전 세계 시장점유율 3위에 머무르고 있는 구글 클라우드 사업에 새 경쟁력으로 작용할 전망이다.

이미 구글은 글로벌 금융기업인 HSBC에 AI 윤리 교육과 AI 프로젝트 검토·감리 컨설팅 서비스를 제공해 HSBC의 대출 AI 알고리즘에 특정 집단 편향성이 있는지 검증하는 작업에 착수했다.

다만 일각에선 AI 윤리라는 도덕적 이슈를 다루는 '멘토'로서 영리기업인 구글이 결국 자신의 AI 사업에 유리한 방향으로 AI 윤리 사업을 주도할 것이라는 우려도 나오고 있다.

SPRi 관계자는 "구글의 AI 윤리 사업이 올 하반기 기업의 시스템 인종 편향 검증과 AI 프로젝트 추진 시 윤리 가이드라인 개발의 중심이 될 것으로 전망된다"며 "구글의 AI 윤리 사업이 AI 생태계의 게임체인저가 될지 주목된다"고 분석했다.

이어 "최근 아마존, 마이크로소프트가 안면인식 AI 개발을 중단하거나 철회한 것처럼 향후 AI 윤리 이슈 대응이 기업의 사업 성패를 좌우할 가능성이 커졌다"며 "구글 AI 윤리 사업의 시장 점유율이 높아지면 경쟁사 역시 관련 사업에 진출하고 AI 윤리 컨설팅 서비스가 빠르게 확산될 전망"이라고 말했다.