"얼굴인식 걷어내는 메타, 인종차별 피해 인정한 것"
2021-12-08 16:21
MS, 구글 등 빅테크의 AI 윤리 문제 대응 대열 합류
세계 최대 사회관계망서비스(SNS)인 페이스북의 인공지능(AI) 얼굴인식 기술이 조만간 제거된다. 이는 글로벌 빅테크 기업들에게 간과됐던 AI의 윤리적 측면을 뒤늦게 의식한 조치로 해석된다.
최근 유색인종(흑인) 인권과 다양성에 초점을 맞춘 영어 매체 '컬처뱅크스'의 코리 헤일 대표는 미국의 유력 경제매체인 포브스 게재된 기고를 통해 메타(전 '페이스북')가 사용자들의 사진·영상에 적용해 온 AI 얼굴인식 시스템 사용을 전면 중지할 계획이고, 이는 인종 등을 포함한 여러 그룹의 권리를 침해할 수 있다는 점 등을 인정한 것이라고 평가했다.
앞서 메타는 지난달 2일 10억명 이상 사용자들의 얼굴을 스캔한 데이터를 삭제하겠다고 자사 웹사이트를 통해 밝혔다. 이와 함께 자동 얼굴인식 기능 역시 가동을 중단하기로 했다. 헤일 대표는 메타가 "얼굴인식 기술을 씀으로써 유색인종을 간접차별하면서 이미 불평등한 상황에 처한 집단의 기본권을 침해하고 있다"며 "이런 내재적인 피해를 페이스북이 인정하는 것으로 보인다"고 평가했다.
현재 AI를 활용한 얼굴인식 기술은 전세계 모든 사람들을 대상으로 100% 정확하게 구분하지 못한다. 특히 유색인종과 여성 등에 대한 인식 정확도가 떨어진다는 연구 결과도 있다.
실제로 매사추세츠공과대(MIT) 조사에 따르면 일부 얼굴인식 시스템의 경우 밝은 피부색(light-skin)을 가진 인종의 남성 인식 시 0.8%의 오류율을 보였다. 이와는 대조적으로 어두운 피부색(dark-skin)을 가진 여성을 대상으로는 인식 오류율이 34.7%나 됐다.
메타는 사용자 동의를 구하지 않은 상태에서 얼굴 자동인식 기능을 활용했다. 이에 지난 2015년 일리노이 주민 3명은 시카고 연방법원에 소장을 제출하면서 소송이 시작됐다.
작년부터 구글은 안면인식 기술 규제의 필요성을 주장하고 마이크로소프트(MS)는 미국 경찰에 안면인식 기술을 공급하지 않기로 하는 등, 스스로 AI 기술 활용에 신중한 입장을 취하고 있다.
헤일 대표는 "MS, 구글 등을 포함한 다른 테크 기업들은 AI가 (권리 침해를 비롯한 윤리 문제로) 투자자들과 기업 브랜드 등에 해를 끼칠 수 있다고 경고했다"고 언급했다.
그러면서 "AI는 여전히 논쟁의 여지가 가장 큰 기술 중 하나"라며 "최근 기업들이 플랫폼 전반에 AI를 통합함에 따라 점점 더 일반화되는 추세"라고 덧붙였다.