KISO "포털 내 청소년 딥페이크 노출 위험 줄인다"

한국인터넷자율정책기구(KISO) 로고 [자료=KISO]

한국인터넷자율정책기구(KISO)는 네이버·카카오·SK커뮤니케이션즈 등 포털 회원사들과 협력해 지난해 청소년 보호를 위한 검색어 110개를 새로 추가했다고 22일 밝혔다.
 
특히 인공지능(AI) 기술 부상과 그로 인한 유해 정보 증가를 막기 위해 딥페이크 관련 검색어들을 유해 검색어로 새로 지정했다.

일부 성인 콘텐츠를 검색 노출하게 하는 애플리케이션 '언드레스(undress)' 관련 검색어는 선제적으로 청소년 보호 검색어로 지정했다. 언드레스의 사전적 의미는 정장이 아닌 편안한 옷을 통틀어 이르는 말이다. 하지만 최근 사진 속 인물의 옷을 벗기는 딥페이크 앱이 등장하면서, 해당 검색어 이용자가 폭증해 악용 우려를 낳았다.

 
지난해 추가한 검색어에는 불법 촬영물, 성착취 관련 검색어, 마약류 매매, 신종 불법 사기대출 관련 검색어 등이 포함됐다.
 

관련기사

• 가짜뉴스 '핀셋' 검증...KISO, 딥페이크 기반 허위조작정보 대응 강화
• 네이버, 일부 동성애 커뮤니티 검색어 제외...KISO 검증위 “음란성 없는데 부적절”

황용석 KISO 자율규제데이터베이스(DB)위원회 위원장은 "딥페이크와 관련된 검색어 추가는 초상권 침해와 명예훼손, 기타 형법적 문제가 발생할 위험을 줄이고, 성적 착취나 폭력으로의 연결 가능성을 막으려는 조치"라고 설명했다.
 
네이버·카카오를 비롯한 포털 3사는 KISO와 공동으로 청소년 보호 검색어 DB를 구축해 관리하고 있다. 현재 약 5만1000개의 청소년 보호 검색어 DB를 운영하며, 지속적인 업데이트·조정으로 최신 상태를 유지 중이다.