'혁신의 중심지' 미국 실리콘밸리에 초강력 인공지능(AI) 규제법이 등장할까. AI 규제법 'SB1047'이 지난달 말 캘리포니아주 상원 의회를 통과했다.

법안을 두고 빅테크 기업들 사이에서는 의견이 분분하다. 일론 머스크 테슬라 최고경영자(CEO)와 엔트로픽은 긍정적으로 바라보는 반면 오픈AI·메타는 반대 의사를 표명했다. 주 차원의 규제가 탄생한다면 연방 정부의 규제안이 가려질 수 있다는 정치권의 우려도 나온다.

3일 정보기술(IT) 업계에 따르면 스콧 위너 캘리포니아주 민주당 상원 의원이 발의한 SB1047은 지난달 말 32대1의 찬성 비율로 주 상원을 통과했다. 개빈 뉴섬 캘리포니아 주지사는 이달 말까지 법 승인 여부를 결정해야 한다. 뉴섬 주지사는 아직 이 법안과 관련해 명확한 의사를 표현하지 않았다.

SB1047은 강력한 AI 규제 법안이라는 평가를 받는다. AI 기술의 안정성을 대폭 높이는 게 법의 목적이다. 클라우드 컴퓨팅 평균 시장가 기준 약 1340억원(1억 달러) 이상 개발비용이 들거나 10의 26제곱 플롭스 이상으로 학습된 AI 모델을 대상으로 한다.

법안에 따르면 주 법무부 장관은 AI 시스템으로 인명 피해나 약 6678억원(5억 달러) 이상 피해가 발생할 경우 해당 기업을 고소할 수 있다. '킬 스위치(비상정지)'도 법안에 포함됐다. AI 시스템이 오작동하거나 오용될 경우 기업이 관련 시스템을 종료하도록 한다. AI를 인간 통제 속에 두겠다는 의미다. 

또 기업은 AI 모델을 배포하기 전에 제3자를 고용해 그들로부터 안전성을 확인받아야 한다. AI 시스템의 안전 문제를 제기하는 내부 고발자를 보호하기 위한 조치도 법안에 담겨 있다.

머스크 CEO와 엔트로픽은 법안을 공개적으로 지지했다. 머스크 CEO는 사회관계망서비스(SNS) 엑스(X)에서 "어려운 결정이고 일부는 반대하겠지만 캘리포니아주가 아마도 SB1047을 통과시켜야 한다"고 했다.

자신이 운영하는 초거대언어모델(LLM) 기업인 xAI이 규제 대상이 되더라도 법안에 찬성한다는 입장을 내세운 것이다. 앞서 머스크 CEO는 AI의 빠른 발전 속도를 우려하며 6개월만이라도 AI 발전을 멈춰야 한다고 제안한 바 있다.

다리오 아모데이 엔트로픽 CEO도 신중하게 지지 의사를 표명했다. 엔트로픽은 AI 안정성을 중시하는 기업으로 알려진다. 그는 "(법안 시행 후) 이익이 비용을 초과할 가능성이 높다"며 "회사가 법안 조항을 실행할 수 있을 것"이라고 언급했다.
  오픈AI는 AI 규제가 개별 주가 아닌 연방정부 차원에서 나와야 한다는 점을 내세웠다. 제이슨 권 오픈AI 최고전략책임자(CSO)는 백악관·상무부·국가안보회의 같은 연방 기관이 AI 리스크를 관리하는 데 더 적합하다고 제안했다. 

메타는 해당 법안이 AI 시스템을 오용하는 사람들보다는 개발자를 대상으로 한다는 점을 내세웠다. 자사의 생성 AI 모델 라마를 개발할 때마다 이를 오픈소스로 공개하고 있어서다. 무료로 AI 모델을 공개하고 있는 만큼 이용자 책임을 강조한 것이다.

위너 의원이 속한 민주당 내에서도 반대 목소리가 나온다. 낸시 펠로시 전 하원의장이 대표적이다. 펠로시 전 의장은 주 차원의 규제는 미국 전반의 규제 일관성을 해친다고 강조했다. 바이든 정부는 지난해 10월 '안전하고 신뢰할 수 있는 AI에 대한 행정명령'을 발표한 바 있다. 

더구나 카멀라 해리스 민주당 대통령 후보는 바이든 정부 AI 정책의 핵심 인물 중 하나다. SB1047로 인해 대선을 앞두고 해리스 후보의 AI 규제 공약에 영향을 줄 것이란 분석도 나온다.

법안 시행 시 빅테크 기업의 실리콘밸리 이탈도 우려되는 요소다. 캘리포니아는 50개 주 중 가장 큰 경제 규모를 차지한다. 빅테크 기업이 모여 있는 실리콘밸리가 이를 지탱한다. 런던 브리드 샌프란시스코 시장이 법안에 반대 의사를 표한 이유다.