​챗GPT 해커 무기 될 것... 보안 담당자도 AI로 대응해야

원유재 한국정보보호학회장이 20일 열린 NetSec-KR 2023에서 환영사를 하고 있다. [사진=이상우 기자]

챗GPT가 사이버 공격자의 침투 전략을 고도화할 것이라는 분석이 나왔다. 보안 담당자 역시 챗GPT로 취약점을 점검하는 등 가까운 미래에는 인공지능(AI)을 도구로 사이버 공격과 방어가 이뤄질 전망이다.

국내 최고 보안 기술 콘퍼런스 '제29회 정보통신망 정보보호 콘퍼런스(NetSec-KR 2023)'가 20일 서울 코엑스에서 열렸다. 한국정보보호학회와 한국인터넷진흥원이 개최하는 이번 행사는 지난 1994년부터 이어진 보안 전문 콘퍼런스다. 사이버 보안, 금융 보안, 개인정보 보호뿐만 아니라, 우주보안, 국방 ICT 보안, AI 보안 등 시의성 있는 주제에 대해 전문가 초청 특강과 세미나가 진행된다.

이날 콘퍼런스에서 이종후 국가보안기술연구소 센터장은 챗GPT가 사이버보안에 미치는 영향을 주제로 발표했다.

이 센터장은 "보안 인텔리전스 기업 다크트레이스에 따르면 올해 1월과 비교해 2월에 발생한 피싱 이메일 공격이 135% 증가한 것으로 나타났다. 정교한 피싱 이메일은 챗GPT를 가장 잘 악용할 수 있는 영역"이라며 "스팸 차단 솔루션 기업도 이런 유형의 공격에 대해 고민이 늘어날 것"이라고 밝혔다.

관련기사

• ​양자컴퓨터에 위협받는 전통 암호체계, 양자내성암호에 주목해야
• "코로나19가 바꾼 보안 환경 논한다" NetSec KR 2023 개최

그는 챗GPT로 인해 강도가 약하고 기초적인 수준의 사이버 공격이 늘어날 것으로 예상했다. 정보 유출을 위한 코딩을 챗GPT가 대신할 수 있기 때문이다. 특히 마이터 어택 프레임워크(실제 해킹 데이터 전술 기반 대응 절차)를 학습한 챗GPT는 초보 공격자에게 어떻게 공격을 시작해야 할지 알려줄 수 있다.

반면 공격을 방어하는 보안 담당자도 챗GPT를 활용할 수 있다. 예를 들어 정부나 기관에서 내놓은 보안 관련 가이드라인의 조건을 입력하고 보안성 높은 코딩을 요구하면 이를 반영한다. 영어만큼 프로그래밍 언어인 파이썬을 많이 학습했기 때문에 이러한 코딩이 가능하다. 또한, ISMS-P 등 보안 요구사항 파악, 네트워크나 장비의 공개된 포트 검사 등 다양한 작업을 쉽게 할 수 있도록 해준다.

이 센터장은 "중요한 것은 우리도 AI 모델을 설계하고 학습하는 모든 과정에서 리스크 관리를 해야 한다. 데이터 수집 과정 등에도 법, 규정, 윤리를 적용하고 AI 전문가, 법제도 전문가, 사이버보안 전문가 등이 모여서 협업해야 한다"고 밝혔다.

임종인 고려대 정보보호대학원 석좌교수는 해킹 문제는 사이버 안보와 직결되는 문제라고 지적했다. 특히 북한이 최근 암호화폐거래소나 탈 중앙화 금융 프로토콜을 노리고, 이렇게 얻은 자금을 핵무기 개발 등에 투자한다고 설명했다.

임 교수는 "탈 중앙화 서비스는 빠르게 서비스를 출시하기 위해 오픈소스를 사용하는 경우가 많다. 여기에는 제로데이 취약점도 많다. 전통 금융기관의 보안은 강해지는 반면, 탈 중앙화 서비스는 여전히 약하다"고 설명했다

그러면서 "이제는 식품, 제조, 헬스케어처럼 소프트웨어 분야에도 무과실책임주의를 도입해야 한다. 바이든 정부는 사이버안보 전략 행정명령을 통해 소프트웨어의 보안 표준을 지켜야 한다고 명시했다. 시큐리티 바이 디자인이 소프트웨어에 녹아들면, 보안 업게에는 새 시장이 열릴 것으로 기대한다"고 밝혔다.

한편, 이날 콘퍼런스에선 정보보호 기술 발전을 위해 지속적으로 연구활동 등을 펼쳐온 공로자들에게 표창장이 수여됐다. 과학기술정보통신부 장관 표창은 이창훈 서울과학기술대학교 교수, 김종성 국민대학교 교수, 이정원 ICTK홀딩스 대표가 받았다.

행정안전부 장관 표창은 이태진 호서대학교 교수, 이동범 지니언스 대표, 이광훈 모니터랩 대표가 받았다.

국군방첩사령부 사령관 표창은 곽진 아주대학교 교수가, 한국인터넷진흥원 우수 신진연구자상은 정인숙 아주대학교 연구원, 서승희 서울과학기술대학교 연구원이 받았다.

이번 콘퍼런스는 21일까지 'Cybersecurity Decisions-사이버보안 대도약을 위한 담대한 구상'을 슬로건으로, 20개 세션에서 60개 주제로 발표가 진행된다. 코로나19 상황 이후 변화된 사이버보안 환경에 선제적으로 대응하고, 사이버보안 기술과 정책에 대한 도전과 방향성을 제시할 예정이다.