내년 총선을 앞두고 중앙선거관리위원회가 생성형 인공지능(AI)을 활용한 허위사실 대응을 예고한 가운데 구체적인 법적근거 마련이 필요하다는 지적이 나온다. 선거에 활용된 AI를 규제하는 근거 법령이 따로 마련돼 있지 않아 규제 범위에 논란이 생길 수 있다는 우려에서다.
 
22일 법조계에 따르면 선관위는 최근 제22대 국회의원선거를 대비해 AI전담팀을 편성, 검찰·경찰·한국인터넷진흥원 등과 협조체제를 구축해 생성형 AI를 활용한 허위사실 및 비방 콘텐츠를 단속하겠다고 밝혔다.
 
전담팀은 모니터링반, 분석·삭제반, 조사·조치반으로 구성돼 허위사실을 발견하면 게시물에 대한 위법성을 판단하는 절차를 거쳐 삭제를 요청하는 식으로 대응한다.
   
선관위가 AI전담팀을 따로 꾸린 이유는 생성형AI가 국내 선거 운동에도 적극적으로 활용되면서 악용 우려가 제기됐기 때문이다. 대표적인 사례가 '딥페이크'로, 지난 대선에서 양당 후보는 'AI윤석열', 'AI이재명'을 선보였다. 해외에서는 이전부터 딥페이크가 상대 진영 후보를 비방하기 위한 목적으로 악용돼 논란이 됐다. 2020년 미국 대선에선 조 바이든 당시 민주당 대선후보가 선거 유세 중 해당 주를 잘못 말하는 영상이 조작돼 상대 후보인 트럼프 지지자들 사이에서 유포됐다.
 
선거운동에 활용된 AI허위사실을 규제하는 법령은 별도로 없다. 하지만 공직선거법상 허위사실공표죄를 적용할 수는 있다. 공직선거법은 온라인을 통해 후보자 등에 대한 허위사실을 유포하는 행위를 금지하고, 당선 또는 낙선을 목적으로 연설·방송·신문·통신 등을 통해 허위사실을 공표할 경우 형사처벌까지 가능하도록 하고 있다.
 
그러나 딥페이크가 공직선거법이 금지하고 있는 허위사실에 해당하는지 명확한 규정이 없는 상황에서 규제 범위가 논란이 될 수 있다는 지적이 나온다. 선관위가 지난 대선 과정에서 '딥페이크 영상 관련 법규운용기준'을 발표해 "구체적으로 딥페이크 영상임을 표시하지 않거나 표시하더라도 허위사실일 경우 공직선거법상 허위사실공표죄에 해당한다"고 기준을 제시했으나 역부족이라는 평가다.

조원용 선관위 선거연수원 전임교수는 '공직선거에서 딥페이크(Deepfake) 악용에 대한 입법적 대응의 필요성'을 주제로 한 논문에서 "현행법상 처벌이 가능하다고 해도 딥페이크 기술을 악용한 허위사실공표행위는 일반적인 경우보다 허위성 발견이 더 어렵고 악의성도 크다"며 "별도의 입법이 필요하다"고 강조했다.
 
미국 일부 주에서는 선거운동에 딥페이크를 악용하는 행위를 직접적으로 규제하면서 구체적인 범위도 함께 정하고 있다. 텍사스주에서는 딥페이크 규제 대상을 '비디오물'로 한정하고 있는 반면, 캘리포니아주에서는 '이미지 편집·오디오·비주얼 미디어'로 정하고 있다. 캘리포니아주에서는 "풍자와 패러디는 동법을 적용하지 않는다"고 하는 등 예외 대상까지 구체적으로 정하고 있다.
 
미국은 최근 내년 대선을 앞두고 연방 차원의 AI 딥페이크 규제 절차에 착수하기도 했다. 미 연방선거위원회(FEC)가 지난 10일 선거 광고에 이용된 딥페이크 영상의 생성·배포를 금지해달라는 청원을 만장일치로 통과시키면서다. 
 
반면 유럽연합(EU)은 딥페이크 제작·유포자가 아닌 플랫폼에 책임을 부과하는 방향으로 대응하고 있다. EU 디지털서비스법은 대형 온라인플랫폼에게 콘텐츠의 기본권 침해·시민담론·선거·공공안전 등에 부정적 영향에 대해 매년 평가하고 조치를 취할 의무를 부과한다. 이를 이행하지 않았을 경우 전 세계 매출액의 6%까지 벌금을 부과할 수 있도록 규정한다.
 
최진응 국회 입법조사관은 AI딥페이크 선거운동 규제 입법시 쟁점으로 △딥페이크 선거운동의 개념 △동영상 외에 이미지·오디오 등 규제 대상 범위 △제작·유포자와 플랫폼 등 형사처벌 대상 △선거 규제 적용 대상과 예외에 대한 기준 △표현의 자유를 위축시키지 않기 위한 합법적 활용에 대한 기준 등이 될 것으로 내다봤다. 

선관위는 오는 30일 'AI가 선거에 미칠 영향'을 주제로 한 세미나를 열고 구체적인 대응방안을 논의할 예정이다.