"백인 더 아름다워" 인공지능, 인간의 편견 닮아

[사진=뷰티에이아이닷컴 ]

아주경제 윤은숙 기자 =인공지능(AI)이 미인대회의 심사위원이 된다면 어떤 결과가 나올까? 인간의 주관을 배제하고 알고리즘만을 이용해 인간의 외모를 평가한다는 취지에서 시작된 뷰티에이아이(Beauty.ai) 프로젝트의 결과가 논란을 불러일으켰다고 미국 온라인 매체인 쿼츠(Quartz)가 6일(이하 현지시간) 보도했다.

마이크로소프트와 엔비디아 등 유수의 글로벌 IT 기업들이 참여했던 프로젝트 뷰티에이아이(Beauty.ai)는 전세계로부터 60만명에 달하는 이들의 사진을 신청받았다. 알고리즘은 주름, 얼굴의 균형, 여드름의 수, 잡티, 인종, 인지딘 나이 등의 특징을 인식하고 판단을 내렸다. 프로그램은 분석결과 44명을 승자로 뽑았다. 그러나 그중 무려 36명이 백인이었다. 

과연 어떻게 이런 일이 발생할 수 있었던 것일까? 문제는 인간이었다. 이번 프로젝트에서 사용되는 기술은 이른바 '딥러닝'으로 현재 인공지능의 학습방법 중 가장 효과적으로 알려져 있는 것이다. 페이스북, 알파벳 등 유수의 기업들이 이 방법을 사용한다. 

인공지능은 대량의 정보 패턴을 심층 신경 네트워크를 통해 배운다. 이런 경우에 수십만개의 사진 속에서 기계는 주름이 있는 사람과 없는 사람을 보고 학습하며, 알고리즘은 천천히 얼굴의 주름 유무에 따른 차이를 발견해내게 된다. 그래서 데이터 베이스에 없던 새로운 사진을 만나도 그 차이를 구별해 낼 수 있다.

관련기사

• 4차 산업혁명 대비 전문인재 육성 시동

그러나 문제는 뷰티에이아이에서 사용된 데이터베이스에 들어있던 대부분의 사진이 백인들의 사진이었다는 고것이다. 학습을 한 데이터베이스 대부분이 백인으로 채워져있었던 터라, 기계는 피부의 색이 다른 흑인들의 사진을 봤을 때 제대로 인식을 하지 못했다. 그리고 탈락시켜버리고 만 것이다. 

쿼츠는 "최근 점차 중요해지는 알고리즘을 이용한 기술이 때로는 의도치 않은 오류를 가져오기도 한다"고 지적하면서 "점점 더 많은 판단을 알고리즘에 맡기는 세상에서 인간이 애초에 그것을 어떻게 짜느냐가 매우 중요하다"고 지적했다. 기계 학습의 기반이 되는 데이터는 결국 인간이 많은 것이며, 주의깊게 정보를 모으지 않은 한 인공지능은 알고리즘을 만드는 인간의 '편견'까지 그대로 학습할 위험이 있다는 것이다. 

뷰티에이아이는 오는 10월에 또다른 미이대회를 열 예정이다. 다음의 예정돼 있는 대회에서는 다른 종류의 데이터로 학습한 인공지능이 사용될 지는 아직 알려지지 않았다고 쿼츠는 전했다.