딥페이크 논란에…AI 워터마크 도입 등 국회 논의 본격화

[사진=게티이미지뱅크]

딥페이크 논란이 확산하면서 관련 입법에 탄력이 붙을 전망이다. 오는 3일 국회 법안심사소위원회를 열고 여야 이견이 적은 인공지능(AI) 기본법 등을 우선 논의할 것으로 보인다. 

2일 국회와 업계에 따르면 국회 과학기술정보방송통신위원회는 3일 오전 정보통신방송법안심사소위원회(2소위)를 열고, AI 기본법을 비롯해 이동통신단말기유통구조개선법(단통법) 폐지 등 정보통신 관련 법안 논의를 시작한다. 22대 국회 개원 3개월 만에 열리는 첫 과방위 법안 심사로, 그간 방송 관련 정쟁에 밀려 열리지 못했다.

국회는 이번에 여야 이견이 적은 AI 기본법을 우선적으로 통과시킬 방침이다. 22대 국회에는 AI 기본법 등 총 6개 법안이 전체회의에 상정돼 법안소위로 회부된 상태다. 다만, 단통법 폐지는 여야 이견이 있는 만큼 이번 법안소위서 통과될지 미지수다.

기본법은 정부가 3년 주기로 기본계획을 수립하고, 예산·정책 지원 근거를 마련하는 등 AI 산업 육성과 진흥을 목적으로 한다. 신뢰기반 확보를 위해 AI 안전 연구소를 설립하는 한편, AI 생성물에 가상의 정보라는 특정 표식인 '워터마크' 도입 등을 규정하고 있다. 관련 법안은 21대 국회에서 통합안까지 마련돼 법안소위를 통과했으나 1년 넘게 방치되다 자동 폐기됐다.  

관련기사

• 딥브레인AI, 창립 첫 '생성 AI 포럼' 개최…딥페이크 자동 탐지 솔루션 공개
• 법원, '서울대 딥페이크' 주범에게 징역 10년 선고..."사회에 경종 울려야"

여당 관계자는 "지난 21대 국회에서 국가인권위원회와 시민단체 등이 일부 규정을 두고 이견이 있었는데, 관련 법안이 22대 국회에 대부분 올라오면서 조율하는 과정이 필요해 보인다"면서 "6개 법안을 통합하는 과정도 시간이 다소 걸릴 수 있다"고 밝혔다. 이어 "최근 딥페이크 논란과 함께 여야는 물론 정부도 관련 입법에 관심이 높은 만큼 연내 제정을 기대해볼 수도 있을 것"이라고 전했다. 

한편, 일각에서는 법안이 실효성을 가지려면 기술 개발이 병행돼야 한다는 지적도 나온다. 딥페이크 정의가 불명확해 모든 AI 생성물에 과도한 규제로 이어질 수 있고, 워터마크도 기술적으로 왜곡될 우려가 있어 딥페이크 범죄를 막기엔 역부족이란 설명이다. 

한국인공지능법학회 회장인 최경진 가천대 법학과 교수는 "워터마크를 도입해도 이를 우회하거나 훼손할 우려가 있어 범죄에 악용되는 딥페이크를 완전히 차단할 수 없을 것"이라면서 "딥페이크 탐지 기술 개발이 필수적인 이유"라고 밝혔다. 

이에 정부도 최근 딥페이크 방지 기술 개발 예산을 확대했다. 과학기술정보통신부는 딥페이크 탐지 기술 고도화를 위해 내년도 예산 20억원을 투입한다. 적대적 생성 신경망(GAN) 방식의 딥페이크 탐지 고도화·생성 억제 기술 개발에 10억원, 자가진화형 딥페이크 탐지 기술 개발에 10억원을 편성한다. 

또 최 교수는 "현재 AI로 만든 허위의 결과물을 딥페이크로 정의하는데, 그 범위를 다른 사람의 이미지를 활용해 음란물을 만들거나 명예훼손을 한 경우 등으로 명확히 할 필요가 있다"면서 "AI 생성물에 대한 일괄 규제보다는 범죄에 악용하는 경우에 대한 강력한 제재가 필요하다"고 전했다.