세계적인 팝스타 테일러 스위프트를 성적 대상화 한 이미지가 미국 사회에 충격을 준 가운데 아동이나 일반인을 대상을 한 인공지능(AI) 딥페이크를 규제해야 한다는 목소리에 힘이 실린다. 
 
28일(이하 현지 시각) CNN, 워싱턴포스트(WP) 등은 스위프트 딥페이크 사태를 계기로 아동이나 일반인의 사진을 악용한 AI 딥페이크에 대한 논의가 급물살을 타고 있다고 보도했다.
 
그간 대통령 선거와 관련해 AI가 생성한 이미지나 영상을 규제해야 한다는 논의는 많았지만, 일반인의 사진을 동의 없이 이용해 음란물을 만드는 것과 관련한 공개 담론은 적었다. 그러나 스위프트를 표적으로 삼은 AI 생성 이미지가 논란이 되면서, 아동과 일반인을 대상으로 한 딥페이크 범죄에 대한 논의가 수면 위로 부상하고 있다.
 
다니엘 시트론 버지니아대 법과대학 교수는 “유명인만이 표적이 되는 것이 아니다”라며 “간호사, 학생, 교사, 언론인 등 모두가 (딥페이크 범죄의) 영향을 받을 수 있다”고 말했다.
 
뉴저지에 거주하는 고등학생 프란체스카 마니는 지난해 본인을 포함한 여학생 30여 명의 사진이 딥페이크로 조작돼 온라인에 공유된 사실을 확인했다. 마니는 이후 AI 생성 음란물 이미지를 해결하기 위해 캠페인 등을 시작했으나, 피해자를 보호할 법적 수단이 거의 없다는 점을 알게 됐다. 마니의 어머니는 CNN과의 인터뷰에서 일부 남학생이 여학생들의 동의 없이 이미지를 만든 것으로 보인다고 말했다.
 
AI 생성형 도구에 대한 접근 문턱이 낮아지면서 딥페이크 기술을 활용해 음란물 이미지나 영상을 만드는 것이 쉬워졌다. 미국의 9개 주에서는 대상자와 합의 없이 딥페이크 이미지를 만들거나 공유하는 것을 금지하는 법률이 있지만, 연방 정부 차원의 법은 없다. 전문가 다수는 온라인 플랫폼에 콘텐츠 내용에 대한 면책 특권을 보장하는 '통신품위법 230조'를 폐지하거나 대폭 수정해야 한다고 주장한다.

실제 미국 온라인 플랫폼은 성 착취물의 유통 창구가 된 지 오래다. 미국 국립실종착취아동센터(NCMEC)에 따르면 지난해 온라인 플랫폼의 아동 성 학대 신고 건수는 2022년 3200만 건에서 지난해 3600만 건으로 늘며 사상 최대치를 기록했다. NCMEC에 신고된 콘텐츠의 90% 이상이 미국 외 국가에서 업로드됐지만, 대부분은 페이스북, 인스타그램, 구글, 스냅챗, 디스코드, 틱톡 등 미국을 기반으로 하는 온라인 플랫폼을 통해서 유포됐다. 
 
미 연방 상원 사법위원회는 오는 31일 아동 성 착취물을 근절하기 위한 청문회를 열 계획으로 소셜미디어 엑스(X, 옛 트위터)의 린다 야카리노 최고경영자(CEO)를 포함해 메타, 스냅, 틱톡, 디스코드 등 주요 기술업체 CEO들이 출석한다.
 
한편, 스위프트 사진 논란에 일론 머스크가 소유한 X는 아동 성 착취물 등 불법 콘텐츠를 단속하기 위한 ‘신뢰와 안전 센터’를 텍사스주에 신설하기로 했다. 이 센터는 아동 성 착취물, 혐오 발언, 폭력적인 내용의 게시물 등을 단속할 예정이다.