네이버, 실시간 음란물 필터링 '클로바 그린아이' 시범 서비스

[사진=네이버]

네이버가 지난 2017년부터 활용해 온 자체 실시간 음란물 필터링 기술 '엑스아이(X-eye)'를 시범 서비스로 외부에 제공한다. 작년 업그레이드된 '엑스아이 2.0'을 네이버 클라우드 플랫폼 기반 오픈 API로 출시했다.

네이버는 엑스아이 2.0을 '클로바 그린아이'로 리브랜딩하고 오픈 API 형태로 제공해 건전한 인터넷 환경 조성과 이용자 보호에 기여할 것으로 기대한다고 16일 밝혔다. 기술 투자 여력이 없는 스타트업과 중소 기업이 클로바 그린아이를 활용해 유해 콘텐츠 탐지를 자동화하고 수작업 검수를 최소화해 안정적인 콘텐츠 서비스를 제공할 수 있게 될 것이라는 설명이다.

엑스아이는 2017년 출시한 이미지 필터링 기술로 네이버에 축적된 이미지 수백만장을 학습해 부적절한 이미지나 동영상 음란물이 네이버에 등록될 때 실시간 감지하고 검색 노출을 차단하는 인공지능(AI) 기술이다. 네이버는 검색 외에 카페, 블로그, 지식인 등에 엑스아이를 활용해 음란물을 차단하고 안전한 서비스를 제공해 왔다.

작년 업그레이드된 엑스아이 2.0은 '정상' '음란' '성인' '선정' 등 세분화된 분류 체계로 작동하고 렉스넷(ReXNet), 컷믹스(CutMix), 아담P(AdamP) 등 딥러닝 이미지 인식 모델과 최적화 알고리즘 선행연구 성과를 활용해 정확도를 99.5%로 높였다.

관련기사

• AI로 새 성장동력 기대… 네이버 한달간 사들인 외국인
• 네이버 '마이 플레이스', 맞춤형 로컬 콘텐츠 플랫폼 재단장

엑스아이 2.0이 이름을 바꾼 클로바 그린아이는 네이버 클라우드 플랫폼에서 시범 서비스 단계의 오픈 API 형태로 음란물 필터링 기능을 수행한다. 클로바 그린아이로 전송된 모든 이미지를 검사하고 네 가지 유해 콘텐츠 등급 판정 결과를 반환한다. 네이버 클라우드 플랫폼 홈페이지에서 사용을 신청해 승인된 사용자들이 써 볼 수 있다.

이정규 네이버 서비스 운영 업무 총괄 책임리더는 "지난 5년여간 네이버 내부에서 이용자 보호에 기여해온 음란물 필터링 기술을 외부 기업들도 사용할 수 있도록 개방함으로써, 더욱 건전한 인터넷 생태계를 조성하는 데 기여하고자 한다"며 "앞으로도 AI 모델을 계속 고도화하고 데이터를 최신화하며, 유해 콘텐츠 감지 영역을 확대해나갈 것"이라고 말했다.