유튜브가 12월 초부터 인공지능(AI)을 활용해 부적절한 댓글에 알림 팝업을 띄우는 새 커뮤니티 가이드라인을 시행했다.

22일 소프트웨어 업계에 따르면, 해당 AI는 댓글 내용을 빠르게 파악해 작성자에게 현재 올리려는 댓글이 적절한지 가이드라인을 읽어보라고 권고한 후 그대로 게시할지 아니면 수정할지 선택권을 부여한다.

유튜브는 그동안 AI를 활용해 유해 동영상 관리를 했으며, 이번 악성 댓글 차단에도 AI를 적극적으로 활용하기로 결정했다.

일례로 유튜브는 급증하는 유해 동영상을 찾기 위해 AI를 적극적으로 활용했으며, 이를 통해 지난 3분기 787만여개의 유해 동영상을 삭제했다. 또한 같은 기간 180만개 이상의 채널이 커뮤니티 가이드를 3회 이상 위반하거나, 심각하게 악용해 폐쇄됐다. 증오 표현, 잘못된 정보, 괴롭힘 등 AI만으로 유해 여부 판단이 애매한 경우에는 구글 직원이 동영상 내용을 검토한 후 차단 여부를 최종 결정한다.

구글에 따르면, 최근 부적절한 내용이 담겨 삭제된 댓글이 2019년 초 대비 46배나 늘어 부득이하게 AI를 활용한 관리 시스템을 도입해야만 했다. 이를 위해 구글은 이용자들이 반복적으로 신고한 내용을 AI가 학습하고 공격성이 있다고 판단되는 내용을 식별할 수 있도록 했다. 또한 학습이 충분치 않아 오류가 있을 수 있음을 인지하고 AI한테 모든 권한을 주지 않고 댓글 작성자가 댓글 내용을 구글 측에 피드백하게 함으로써 AI 성능을 끌어올렸다. 이용자가 AI의 피드백을 잘 받아들일 경우 해당 문맥에 대한 학습을 강화하고, 잘 받아들이지 않을 경우 해당 문맥의 공격성을 구글 개발자가 직접 검토하는 식이다.

악성 댓글 관련 문제가 끊이지 않는 상황에서 구글이 AI를 활용해 악성 댓글을 감지·차단할 수 있는 자연어 처리 기술 개발에 나선 점은 고무적이다. AI가 인터넷 환경을 개선할 수 있음을 보여주는 대표 사례로 급부상할 전망이다.

실제로 네이버의 경우 올해 6월부터 댓글에 욕설이 없더라도 문맥상 모역적이거나 타인을 비하하는 표현이 있을 경우 이를 악플로 인식하는 AI 모델 '클린봇 2.0'을 출시한 바 있다. 클린봇 2.0은 현재 95%의 정확도로 악플을 적발하고 있다. 다만 현재 AI 성능 만으로는 여러 변칙적인 악성댓글에 대응하는 데 어려움이 있어 결국 네이버 연예 뉴스(3월)와 스포츠 뉴스(9)의 댓글 기능을 폐지하기로 결정하기도 했다.

한편, 유튜브, 네이버 등에 적용된 AI와 추천 알고리즘이 확증 편향을 부추긴다는 지적이 끊이지 않음에 따라 한국 정부가 직접 포털과 유튜브에 들어가는 AI 알고리즘을 투명하고 공정하게 만들어야 한다는 취지의 가이드라인을 마련하기로 했다. 이에 방송통신위원회는 AI 알고리즘 기반 추천 서비스 이용자 권익 증진을 위해 'AI 알고리즘 추천 서비스 투명성 제고를 위한 기본원칙(가칭)'을 만드는 작업에 착수했다.