전 세계적으로 인공지능(AI)에 대한 규제의 목소리가 높아지고 있다. 조 바이든 미국 대통령이 AI 규제를 골자로 하는 행정명령에 서명한데 이어 미국 증권감독당국 수장도 AI 리스크에 우려를 표했다. 주요 7개국(G7)은 AI 규제에 대한 행동 강령을 채택할 전망이다.

지난 달 31일(현지시간) 마켓워치에 따르면 게리 겐슬러 미국 증권거래위원회(SEC) 위원장은 마켓워치와의 인터뷰에서 AI가 시장 위기의 근원이 될 수 있다고 말했다. 올해 전 세계적인 경기 둔화 우려 속에서도 AI에 대한 기대감이 증시를 받쳤지만 이후에는 오히려 AI가 증시에 리스크로 작용할 수 있다는 것이다.

그는 100조 달러에 달하는 미국 자본시장의 질서와 공정성을 확립하는데 있어서 많은 우려 요인들이 있지만 그 중에서도 가장 우려하고 있는 것은 단연 AI의 확산이라고 언급했다.

특히 최근에는 챗GPT와 같은 생성형 AI 기술이 투자 방식에 혁명을 몰고 온 가운데 투자자들은 "10년 전에는 상상도 하지 못했던 것을 예측하기 위해" 거대 데이터 집합을 활용한다며, 이는 큰 리스크를 수반한다고 지적했다.

겐슬러 위원장은 "현재 커지고 있는 이슈는 (AI가) 전체 금융 시스템의 리스크로 이어질 수 있다는 것"이라며 "많은 금융 참여자들이 1,2개 혹은 3개의 모델에 의존함에 따라 단일적 환경이 조성되고 무리 행동이 나타날 수 있다"고 말했다. 투자자들이 이용하는 모델에 흠이 있을 경우 그 파장이 금융 시장 전체로 확산할 것이고, 이는 시장 내 급격하고 예측 불가능한 가격 움직임으로 이어질 수 있다는 것이다.

다우지수가 하루새 20% 이상 급락했던 1987년 블랙먼데이 당시 프로그램 매매로 인해 낙폭이 걷잡을 수 없이 확대된 것과 비슷한 상황을 우려하는 모습이다.

겐슬러 위원장은 1, 2개의 대형업체들이 장악한 시장의 예로 클라우드 컴퓨팅 및 검색 엔진 시장을 지목하면서 이와 비슷한 집중 현상이 AI 기술 시장에도 나타날 수 있다고 우려를 표했다. 특히 미국의 규제 체제가 분산되어 있는 상황에서 이는 대처하기 어려운 문제라고 덧붙였다. 현재 미국 증권시장은 SEC, 선물시장은 상품선물거래위원회(CFTC)가 감독하고 있다.

그럼에도 SEC는 AI 규제를 위한 새로운 법안을 논의하고 있다고 겐슬러 위원장은 전했다. AI 단속을 위해서는 기존 규정 만으로도 충분하고, 추가적인 규제는 고객들이 최신 기술 사용을 막을 것이라는 증권업계의 우려에 대해서는 "만일 그들이 스트리밍 앱 상에서 어떤 영화에 대해 얘기를 하는 것이라면 좋다. 하지만 재무적 지원 측면에 대한 것이라면...이 문제를 해결해야 한다"고 답했다.
  작년 말 AI 챗봇 챗GPT 발표 이후 AI 기술이 급속도로 발전하고 있는 가운데 올해는 전 세계적으로 AI 열풍이 불다시피 하고 있다. 전 세계 경제가 썩 좋지 못한 상황 속에서도 AI 기대감이 작용하는 미국 빅테크 기업들은 상승세를 거듭하며 전체 증시 상승세를 주도해왔다. 하지만 AI 기술 발전 속도가 빨라짐에 따라 그만큼 리스크 대처 필요성에 대한 목소리도 높아지고 있다.

전날 바이든 대통령은 AI로 인한 리스크 감축을 골자로 하는 행정 명령을 발표했다. 이는 미국 국가 안보, 경제, 공공 보건 및 안전과 관련해 리스크를 내포하고 있는 AI 시스템의 개발업체들이 시스템을 대중에 공개하기 전에 안전 테스트 결과를 미국 정부와 공유하고, 안전하고 신뢰성 높은 AI 시스템을 개발하는 것을 주요 내용으로 하고 있다.

미국 기업들이 국가 안보를 위해 필요한 물자를 우선적으로 생산하도록 정부가 주문할 수 있는 국방물자생산법(Defense Production Act)과 맥락을 같이 하는 행정 명령이다.

바이든 대통령은 "AI의 가능성을 실현하고 리스크를 피하기 위해 우리는 이 기술을 관리할 필요가 있다"며 "AI가 잘못된 이의 손에 들어갈 경우, 우리 사회가 운영되도록 하는 소프트웨어의 취약점을 해커들이 공략하는 것이 쉬워질 것"이라고 언급했다.

이 행정 명령의 후속 작업으로 미 상무부는 AI 생성 콘텐츠들에 대한 인증 및 워터마킹(복제방지 기술) 가이던스를 수립할 방침이다. 또한 척 슈머 민주당 상원 원내 대표는 수개월 내에 AI 규제 입법안이 마련될 것이라고 언급했다.

이외에도 1일부터 2일까지 영국에서 열리는 주요 7개국(G7) AI 안보 정상회담에서 참석자들은 AI 규제 관련 행동 강령 마련에 동의할 전망이라고 로이터가 입수 문서를 인용해 보도했다. 해당 행동 강령은 AI에 대한 리스크 판별, 측정 및 대처 등과 관련한 대처 조치를 포함하고 있는 것으로 알려졌다.

G7 국가들은 지난 5월 이른바 '히로시마 AI 프로세스'라고 명명된 AI 협약 마련 작업을 진행해왔는데, 이번에 관련 행동 강령이 채택될 경우 세계 AI 규제 흐름에 있어 새로운 이정표가 될 것이라는 전망이다.

따라서 AI 기술의 발전 속도와 비례해 전 세계적인 AI 규제 속도 역시 한층 가속화될 것으로 전망된다. 

기술 정책 전문 싱크탱크인 퓨처 오브 라이프 인스티튜트의 막스 테그마크 소장은 "사실 미국은 유럽보다 이미 (AI 규제에서) 뒤처져 있다"며 "의회를 포함한 정책당국자들은 위협에 대처하고 과정을 보호하는 법안을 실행함으로써 시민들을 보호해야 할 필요가 있다"고 강조했다.