유럽연합(EU)에 이어 미국도 인공지능(AI) 규제 속도를 내고 있다. 미국 콜로라도와 유타주에 이어 주요 빅테크 기업이 많은 캘리포니아주 등 주 정부 차원에서 AI 규제 입법 움직임이 나타나고 있다.

20일 업계에 따르면, 캘리포니아주 상원은 이달 말 '첨단 AI 시스템을 위한 안전과 보안 혁신법안'에 대한 최종 투표를 진행할 예정이다. 앞서 지난 15일(현지시간) 주 하원은 당초 상원에 통과한 원안보다 완화한 내용의 수정안을 통과시켰다. 뉴욕타임스(NYT) 등에 따르면 민주당이 다수인 주의회는 이달 말까지 이 법안을 통과시킬 것으로 예상된다.

법안은 기술로 인한 치명적 피해의 위험을 줄이기 위해 AI 개발사들이 안전 테스트를 하도록 의무화하는 것이 골자다. AI 시스템이 인명 피해나 5억 달러(약 6670억원)가 넘는 재산 피해를 일으키면 AI 개발사에 책임을 지우도록 했다. 해당 법안은 캘리포니아주에서 사업을 하는 모든 회사에 적용한다. 본사 소재지에 상관없기 때문에 실리콘밸리에 위치한 빅테크와 AI 스타트업들이 규제 대상이다. 

미국은 주 차원에서 AI 규제에 적극적인 편이다. 현재 연방 차원에선 다수 법안이 계류 중이지만, 콜로라도·테네시·유타주가 최근 미국 최초로 AI 규제 법안을 통과시켰다. 유타는 생성 AI에, 테네시는 초상 등 이용에 대한 개인의 권리 보호와 관련된 AI 시스템을 규제했다. 콜로라도는 고위험 AI 시스템 개념을 도입하고 개발자 의무 규정 등을 구체화했다.

유럽에선 전 세계 첫 AI 규제인 AI법이 이달 1일 발효됐다. AI 기술을 활용할 때 발생할 수 있는 위험 정도에 따라 4단계(금지·고위험·제한적·저위험)로 나눠 차등 규제하는 것이 골자다. EU에 있는 기업은 광범위하게 AI 법 적용을 받게 된다. 법을 어기면 최대 3500만 유로(약 520억원) 또는 전 세계 연간 매출의 최대 7%의 과태료를 부과받을 수 있다. 금지 대상 AI 관련 규정은 내년 2월부터 시행한다. 법 전면 시행은 발효 2년 뒤인 2026년 8월부터다. 

우리나라도 AI 기본법 제정이 시급하다는 게 업계 공통 의견이다. AI 기술 경쟁력을 갖추려면 각국의 상황을 고려한 규범 체계가 필요하다는 것이다. 22대 국회에서는 현재까지 AI 관련 법안이 총 6건 발의돼 있다. 기본적으로 산업 육성과 진흥에 방점을 뒀지만, 고위험 AI에 사후 규제를 적용하고 있는 것이 특징이다.

최근 정부는 AI 정책 전반을 담당하는 국가인공지능위원회 구성에 착수했고, AI 기술 안전성을 다루는 AI 안전연구소가 연내 출범할 예정이다. 

법무법인 세종 AI센터장인 정준영 변호사는 이날 열린 'AI 규제법 국내외 동향분석' 세미나에서 "정부가 목표로 한 AI 3개 강국(G3)으로 도약하려면 (그에 걸맞은) 규제 체계가 필요하다"면서 "해외 주요 국가들의 입법 동향을 살피면서 우리나라 가치와 이익에 부합하는 방향의 입법 노력을 해야 한다"고 강조했다.