생성형 AI 손에 쥔 해커들... 가짜뉴스 통한 '정보 작전' 확대

이상우 기자 2023-08-19 12:00

챗GPT로 대표되는 생성형 인공지능(AI)은 기업 업무를 넘어 일상용 서비스에 접목하는 시도가 이어지고 있다. 자연스러운 문장을 만들어 사용자와 대화하는 것은 물론, 웹 검색을 통해 필요한 정보를 찾아 요약하기도 한다. 특히 텍스트뿐만 아니라 사진이나 음성을 인식하거나 생성하는 멀티모달 기술이 접목되면서 활용도는 더 커질 것으로 기대된다.

사이버 공격자 역시 이러한 생성형 AI에 주목하고 있다. 공격을 위한 사전 정보 수집을 생성형 AI로 수행하는 것은 물론, 사용자를 속이기 위한 문구나 이미지를 제작하기도 한다. 특히 사이버 공격에 대한 기업의 사전 준비와 대응 절차를 AI에 학습시켜 보안 약점을 찾아내는 등 활용 범위는 더 넓어질 전망이다.

19일 구글클라우드의 위협 인텔리전스 자회사 맨디언트에 따르면 최근 사이버 공격자는 사회공학적 기법에 생성형 AI를 도입하고 있다. 사회공학적 기법이란 IT 시스템이 아닌 사람의 취약점을 공략해 원하는 정보를 얻는 기법으로, 악성코드를 담은 해킹 이메일이나 문자·전화 금융사기(스미싱·보이스피싱) 등이 대표적이다. 생성형 AI는 이러한 공격에 쓰이는 문구를 더 정교하게 만들고, 공격자가 사용자를 더 쉽게 속일 수 있도록 돕는다.

적대 국가나 기업에 대한 정보작전을 수행하는 공격자도 생성형 AI로 만든 이미지나 동영상을 사용하는 추세다. 조작한 콘텐츠를 통해 왜곡된 정보를 대중에게 전달할 수 있기 때문이다. 특히 맨디언트는 생성형 AI가 이러한 공격 능력을 끌어올릴 것으로 내다봤다. 그럴듯한 가짜뉴스를 빠르게 전파하는 것은 물론, 가짜라고 의심하기 어려울 정도로 사실적인 정보를 만들 수 있기 때문이다.

관련기사

맨디언트는 2019년 이후 러시아, 중국, 이란, 에티오피아, 인도네시아, 쿠바, 아르헨티나, 멕시코, 에콰도르, 엘살바도르 등 특정 국가와 연계한 사이버 공격자들이 미국 커뮤니티에서 가짜 프로필 사진을 만들어 활동한 사례를 확인했다고 밝혔다. 사진을 더 자연스럽게 만들기 위해 필터 효과를 이용하거나 얼굴을 수정하는 등의 조치도 했다.

트위터를 무대로 전개된 '드래곤브리지(pro-RPC DRAGONBRIDGE)' 작전에도 생성형 AI가 사용된 것으로 추정하고 있다. 드래곤브리지는 미국과 동맹국 혹은 미국 정치 체제 자체 내에 분열을 심기 위해 미국을 대상으로 진행된 정보 작전이다.

맨디언트는 2023년 3월 드래곤브리지는 미국 정치 지도자들을 부정적으로 표현하기 위해 AI로 만든 이미지를 활용했다고 밝혔다. 이 중에는 미국 언론인 엘리엇 히긴스가 생성형 AI 미드저니를 이용해 만든 이미지도 포함돼 있다. 도널드 트럼프 전 미국 대통령이 감옥에 수감된 이미지다. 당시 엘리엇 히긴스는 생성형 AI가 악용될 수 있다는 점을 보여주기 위해 이러한 이미지를 공개했는데, 드래곤브리지 작전에 실제로 투입됐다.

2023년 5월 러시아 국영 매체인 RT 등에는 미국 국방부 청사(펜타곤) 근처에서 폭발 사고가 일어난 것으로 위장한 가짜 이미지가 올라오기도 했다. 이후 미국 증시가 잠시 하락하기도 했다. 이러한 형태의 가짜 영상은 실제로 많은 정보 작전에 쓰이고 있다. 지난 2022년 3월에는 러시아의 우크라이나 침공 후 볼로디미르 젤렌스키 우크라이나 대통령의 딥페이크 동영상이 등장해, 우크라이나가 항복했다는 조작된 메시지가 퍼지기도 했다. 지난 2021년 4월에도 맨디언트는 영화 장면에 멕시코 주지사 후보 얼굴을 AI로 합성해 마약을 하는 것처럼 꾸민 영상이 퍼지기도 했다.

맨디언트는 "사이버 공격자들은 새로운 기술을 지속해서 활용하고, 변화하는 디지털 환경에 적응하며 전략을 개선하고 있다"며 "진짜와 가짜를 구별하지 못하는 것을 노리는 악의적인 공격은 계속될 것"이라고 밝혔다.

그러면서 "사용자와 기업 모두 생성형 AI로 수집된 정보에 대한 주의가 필요하다. 생성형 AI에 대한 공격자들의 관심은 명백하다. 아직은 활용 폭이 제한적이기에 방어자 역시 생성형 AI를 통해 악성코드 스크립트를 분석하는 등 대응 준비가 필요하다"고 밝혔다.