챗GPT 개발사 오픈AI가 인공지능(AI)에 전 세계 이용자의 합의를 전제한 의사결정 방식을 접목하는 방안을 연구하고 있다. 비영리단체 ‘생명의미래연구소(FLI)’가 지난 3월 공개서한을 통해 챗GPT에 적용된 GPT-4 이상으로 강력한 AI 시스템 연구개발을 당장 멈춰야 한다고 주장하고 각국에서 입법 절차를 포함한 초거대 AI 규제 논의가 확산한 데 따른 대응이다.

오픈AI는 23일 공식 블로그에 ‘초지능 거버넌스’라는 글을 게재하고 전 세계 사람들이 민주주의 의사결정 방식으로 AI 시스템의 판단에 관여하는 요소를 결정해야 한다는 주장을 제기했다. 이 글은 샘 올트먼(Sam Altman) 최고경영자, 그렉 브록먼(Greg Brockman) 사장, 일리아 수츠케버 수석과학자 등 오픈AI의 세 공동설립자가 공동 작성했다.

오픈AI 공동설립자들은 현존 AI 기술을 넘어설 ‘초지능’ AI 시스템의 위험도를 낮추기 위해 △연간 특정 수준으로 AI 성능의 향상 수준을 제한하는 데 세계 주요 정부가 합의하고 △개별 국가가 아니라 국제원자력기구(IAEA) 같은 국제기구에서 설정한 ‘안전 기준’에 맞춰 검사와 감사를 받고 △실제로 초지능 AI를 안전하게 만들기 위한 기술적인 역량을 확보해야 한다고 강조했다.

이들은 그 일환으로 “가장 강력한 시스템의 거버넌스와 배포에 관한 결정은 ‘강력한 공중의 감독(strong public oversight)’을 받아야 한다”면서 “전 세계 사람들이 AI 시스템의 경계와 기본값을 민주적으로 결정해야 한다”고 밝혔다. 또 “아직 그러한 메커니즘을 설계하는 방법을 모르지만 그걸 개발하는 실험을 진행할 계획”이라며 “이용자가 다루는 AI가 행동하는 방식에 대해 이용자가 더 많은 제어권을 가져야 한다”고 덧붙였다.

브록먼 사장은 미국 샌프란시스코에서 골드만삭스가 주최한 AI 관련 행사에 참석해 이 같은 오픈AI의 계획에 대해 직접 발언했다. 로이터 통신 보도에 따르면 그는 “우리는 실리콘밸리에 앉아서 모든 사람을 위해 이러한(AI의 판단에 관여하는) 규칙을 작성할 수 있다고 생각지 않는다”며 “우리는 민주적 의사 결정(democratic decision-making)에 대해 생각하기 시작했다”고 말했다.

오픈AI 공동설립자들의 주장은 FLI 공개서한이나 미국과 유럽연합(EU) 등 주요 국가에서 강력한 AI 시스템의 잠재적 문제와 위험성을 제기하고 규제해야 한다는 목소리가 높아진 가운데 구체화했다.

FLI는 지난 3월 공개한 서한에 세계적 AI 석학 중 한 명인 요슈아 벤지오, 역사학자 유발 하라리, 오픈AI 초기 투자자였던 일론 머스크 등의 연서명을 담아 ‘위험성이 큰 최첨단 AI 시스템 개발을 당장 중지해야 한다’는 주장을 전개했다.

미국 상원 의원들은 지난 16일 청문회를 열고 올트먼 최고경영자를 증인으로 불러 AI 규제 필요성을 강조했다. 최근 유럽 의회에선 주요 위원회가 네 가지 위험 수준으로 AI를 분류해 사용을 제한하는 AI 규제 법안을 승인했고 오는 6월 중순 전원 표결을 진행한다. 이 법안은 연말이나 2024년 초 승인되고 통상 2년의 유예 기간을 거쳐 시행할 것으로 관측된다. 로이터 통신에 따르면 올트먼 최고경영자는 이번 주 유럽 정책 입안자와 만날 예정이다.

오픈AI는 초지능 AI 규제를 대비하기 위해 당장 진행하고 있는 AI 시스템 개발을 금지하는 일은 적절치 않다는 입장도 강조했다. 이 회사가 블로그에 “우리는 여기서 설명하는 종류의 규제 없이 기업과 오픈소스 프로젝트로 상당한 허용 임계치 미만의 모델을 개발하도록 허용하는 것이 중요하다고 본다”면서 “AI 시스템의 위험 수준은 다른 인터넷 기술과 사회적으로 가능한 접근 방식에 비례한다고 보는 게 적절하다”고 주장했다.