내년 전 세계 보안을 위협할 주 요인 중 하나로 생성 인공지능(AI)를 악용한 사이버 공격이 꼽혔다. 특히 생성 AI 도움으로 고도화된 피싱이 이메일 등을 통해 더 많은 이용자에게 피해를 줄 수 있다며 대응책이 필요하다고 지적했다.

이호석 SK쉴더스 EQST 랩 담당은 5일 서울 광화문 HJBC에서 열린 '2024 보안 위협 전망 보고서' 미디어 세미나에서 이같이 밝혔다. EQST는 SK쉴더스 내 '화이트 해커' 그룹으로 각종 사이버 보안 위협에 대한 대응책을 마련하고 기업의 보안 강화를 위한 전략을 짜는 곳이다.

SK쉴더스는 올해 생성 AI를 중심으로 AI가 급속도로 발전하면서 이를 활용한 피싱 시도가 더욱 정교화될 수 있다고 짚었다. 기존에도 다양한 목적으로 이메일을 통해 피싱을 시도하는 사례는 많았지만, 생성 AI로 더욱더 자연스러운 메시지를 작성할 수 있게 되면서 이용자들이 쉽게 속아 넘어갈 수 있다는 우려다. 실제 피싱 공격에 특화된 웜GPT·프러드GPT 등이 등장하기도 했다.

이 담당은 "북한이나 해외 등에서 피싱을 시도하면 이메일 말투가 부자연스러운 경우가 많은데, 이런 부분을 챗GPT 등으로 보완하기 때문에 더 고도화된 공격을 할 수 있다"고 했다. 이미 미국에서는 기업 임직원을 사칭한 '비즈니스 이메일 사기(BEC)'가 미 연방수사국(FBI)에 2만건 넘게 접수됐다.

그는 랜섬웨어 유포 방식도 AI를 이용해 진화할 수 있어 대비가 필요하다고 말했다. 앞으로 수년 안에 회사 기밀과 소스코드 등 정보를 유출하는 방식으로 챗GPT를 활용한 사이버 공격이 일어날 가능성도 거론했다.

김병무 SK쉴더스 클라우드사업본부장 역시 "2024년은 AI 비즈니스 원년이 될 것으로 보인다"며 "AI로 인한 보안 위협에 적극적으로 대응해야 할 때"라고 목소리를 높였다.

생성 AI를 해킹 방어에 활용하는 방식도 연구되고 있다. 챗GPT 특성을 활용해 생성 AI가 작성한 글을 잡아내거나, AI가 만든 딥페이크·딥보이스를 판별하는 방식 등이 꼽힌다. 이재우 EQST 사업그룹장은 "해외에서는 초거대언어모델(LLM)을 사이버 방어에 적용한 솔루션 플랫폼을 출시하고 있다"고 전했다.

SK쉴더스는 AI 외에도 내년 주요 보안 위협 요소로 △제로데이를 악용한 랜섬웨어 공격 전략 고도화 △연쇄적인 공급망 공격 △다양한 형태의 자격 증명 탈취 증가 △클라우드 리소스 공격 타깃 등 네 가지를 제시했다.

제로데이란 핵심 시스템의 보안 취약점이 발견됐으나 이를 막을 수 있는 패치가 발표되기 전을 일컫는다. 이를 틈탄 랜섬웨어 공격 전략이 고도화될 것이라는 예상이다. 다양한 형태의 자격 증명 권한과 인증정보가 다크웹에서 활발하게 거래되는 가운데 이를 노린 공격도 많아질 것이라며, 기업의 접근 권한 관리 정책 강화도 요구했다.