KISO "포털 내 청소년 딥페이크 노출 위험 줄인다"
2024-01-22 09:10
지난해 '청소년 보호 검색어' 110개 추가
특히 인공지능(AI) 기술 부상과 그로 인한 유해 정보 증가를 막기 위해 딥페이크 관련 검색어들을 유해 검색어로 새로 지정했다.
일부 성인 콘텐츠를 검색 노출하게 하는 애플리케이션 '언드레스(undress)' 관련 검색어는 선제적으로 청소년 보호 검색어로 지정했다. 언드레스의 사전적 의미는 정장이 아닌 편안한 옷을 통틀어 이르는 말이다. 하지만 최근 사진 속 인물의 옷을 벗기는 딥페이크 앱이 등장하면서, 해당 검색어 이용자가 폭증해 악용 우려를 낳았다.
지난해 추가한 검색어에는 불법 촬영물, 성착취 관련 검색어, 마약류 매매, 신종 불법 사기대출 관련 검색어 등이 포함됐다.
황용석 KISO 자율규제데이터베이스(DB)위원회 위원장은 "딥페이크와 관련된 검색어 추가는 초상권 침해와 명예훼손, 기타 형법적 문제가 발생할 위험을 줄이고, 성적 착취나 폭력으로의 연결 가능성을 막으려는 조치"라고 설명했다.
네이버·카카오를 비롯한 포털 3사는 KISO와 공동으로 청소년 보호 검색어 DB를 구축해 관리하고 있다. 현재 약 5만1000개의 청소년 보호 검색어 DB를 운영하며, 지속적인 업데이트·조정으로 최신 상태를 유지 중이다.