딥페이크 범죄가 확산되자 여야를 막론하고 피해 방지 법안을 적극 추진하고 있다. 범죄에 이용된 허위 영상물을 유포한 사람뿐만 아니라 단순 시청한 사람도 처벌하는 규정을 신설하는 법안도 발의됐다. 관련 법안이 우후죽순 쏟아지자 일각에선 '냄비 입법'으로 해결될 문제가 아니라는 비판도 나온다. 

딥페이크 생성물을 사전에 식별해 걸러낼 수 있도록 규제하는 방안도 논의 중이지만 기술적 한계와 관련 산업계 부담 증가 등 여러 부작용이 예상돼 세심한 설계가 필요하다는 지적이다. 

29일 의안정보시스템에 따르면 최근 사흘간 발의된 딥페이크 방지 관련 법안은 현재까지 총 16건이다. 이 중 성폭력처벌법 개정안이 11건으로, 딥페이크 제작은 물론 소지·구입·저장·시청도 처벌하는 것이 핵심이다. 현행법은 반포 목적 제작만 처벌하고 소지·시청 등은 처벌 대상에서 빠져 있었다. 또 허위 영상물 처벌을 기존 징역 5년 이하에서 7년으로 강화하는 방안도 추진된다. 

온라인 플랫폼을 겨냥한 법안도 발의됐다. 음란물을 합성한 딥페이크 영상물이 텔레그램 등 메신저 플랫폼을 통해 많이 유포되고 있어서다. 

이날 이수진 민주당 의원은 메신저 플랫폼에 대해 불법 촬영물을 유통한 이용자의 정보를 보존하도록 하는 내용이 담긴 정보통신망법 개정안을 발의했다. 플랫폼 제공자가 즉각 필요한 조치를 하지 않으면 처벌하겠다는 취지다. 이 의원은 "메신저 플랫폼이 또다시 딥페이크 성범죄 가해자 정보 제공에 불응하면 텔레그램 역시 성범죄에 협력했다고 보고 국내 영업활동 제한도 검토할 필요가 있다"고 말했다. 

포털·플랫폼 등에 딥페이크 표시를 의무화하는 법안도 나왔다. 같은 날 김장겸 국민의힘 의원은 일정 규모 이상인 포털과 플랫폼에는 인공지능(AI)을 활용한 영상물인지 사전에 표시하도록 의무화하는 정보통신망법 개정안을 발의했다. 딥페이크 표시 방법 미제공 시 1000만원 이하 과태료를 부과하는 처벌 규정도 담겼다. 

최근 국회에서 이와 비슷한 법안이 본격 논의되고 있다. 김승수 국민의힘 의원이 21대 국회에서 발의한 정보통신망법 개정안이 22대 국회에서 재발의됐고, 지난 26일 국회 과학기술정보방송통신위원회 전체 회의에서 법안소위로 넘어가는 등 논의가 다시 시작되고 있다. 이 법안은 AI 생성물에 가상의 정보라는 특정 표식인 '워터마크'를 넣어야 하고, 플랫폼 기업들은 표식이 없는 AI 생성물을 바로 삭제하도록 의무화하는 것이 골자다.

다만 이들 법안이 실효성이 떨어지는 과잉 규제가 될 수 있다는 우려가 나온다. 이준석 개혁신당 의원은 지난 27일 본인 사회관계망서비스(SNS)를 통해 "냄비 입법과 포퓰리즘 대처를 한다고 사회문제가 해결되지 않는다"면서 "규제를 통해 국산 메신저 검열만 강화되는 결과로 귀결되지 않았으면 좋겠다"고 말했다. 또 텔레그램 규제에 대해서도 "다른 국가처럼 인증서버를 완전히 차단해도 어차피 또 대체재가 만들어질 것이고 그래서 조치가 무의미하다"고 했다. 

딥페이크 표시 의무화에 대한 우려도 있다. AI를 활용한 생성물을 기술적으로 정확히 판단하기 어려운 한계가 있고, 이러한 규제가 자칫 생성 AI 산업 발전을 저해할 수 있다는 지적이다. 

국회 입법조사처는 이와 관련한 입법 영향 분석 보고서를 통해 "가상 정보 표시를 기술적으로 조작하거나 실제 사실을 가상 정보라고 거짓 표시하는 등 기술적 한계를 해결하지 못하면 사회적 혼란이 발생할 수 있다"고 지적했다. 또 "대통령령으로 표시 방법을 정한 것은 기업의 경영 자율성을 침해할 수 있고, 개인 표현의 자유를 과도하게 제한할 우려가 있다"고 덧붙였다.

민간 플랫폼 기업에 부담으로 작용할 수도 있다. 한국인터넷기업협회는 "딥페이크 생성물을 완벽하게 가려내는 것은 사실상 불가능하고 즉시 삭제도 현실적으로 어렵다"면서 "민간사업자인 정보통신서비스 제공자에게 과도하거나 불가능한 의무를 부여하는 것"이라고 말했다. 

또 인기협은 "해외 기업들은 원본 품질에 영향을 주지 않는 방식의 워터마크, 비가시성 워터마크 등 다양한 방식과 기능을 자율적으로 개발하고 관련 기술을 발전시키고 있다"면서 "이런 상황에서 법률을 통해 임의적인 워터마크 표시 방식을 강제하면 워터마크 기술 개발의 다양성과 창의성을 저해할 수 있다"고 우려했다. 

정부도 표시 의무를 개인에게 부과하는 것은 과하다는 의견이다. 과기정통부는 "해외 입법 동향을 보면 표시 의무를 개인에게 부과한 사례는 존재하지 않는다"면서 "정보 제공자에 법인이 아닌 개인이 상당수 포함될 것으로 예상되는 상황에서 개인에게 직접 표시 의무를 부과하는 것은 과도한 의무 부과"라고 설명했다.