[종합] 'AI 서울 정상회의' 성료…'안전한 AI'에 기업들도 '화답'

윤석열 대통령이 21일 청와대 영빈관에서 화상으로 'AI 서울 정상회의'에 참석하고 있다. [사진=대통령실]

지난 21일부터 22일까지 이틀간 개최된 'AI 서울 정상회의'와 'AI 글로벌 포럼'이 성황리에 막을 내렸다. 이번 행사는 한국이 전 세계적으로 화두로 떠오르고 있는 인공지능(AI)에 대한 국제 거버넌스 논의의 중심이 됐다는 점에서 전 세계적인 주목을 받았다.

특히 둘째날 열린 'AI 글로벌 포럼'에서는 첫날인 21일 'AI 서울 정상회의' 정상 세션에서 채택된 선언문인 '서울 선언'을 재확인하면서, 글로벌 AI 헤게모니를 쥔 주요 기업들도 이를 토대로 한 '서울 AI 기업 서약'에 일제히 합의했다는 점에서 의미를 더했다.
 

'서울 선언' 채택…"비영미권인 韓서 정상회의 개최 의미 커"

이종호 과학기술정보통신부(이하 과기정통부) 장관은 22일 'AI 글로벌 포럼'이 끝난 뒤 진행된 미셸 더넬런 영국 과학혁신기술부 장관과의 합동 브리핑에서 "이번에 정상 세션에서 정상 간 합의문서인 '서울 선언'과 후속 성격의 '서울 의향서'가 채택됐다"며 "최근 AI 글로벌 거버넌스 논의가 영미권 중심으로 추진되는 가운데, 비영미권인 한국에서 AI 서울 정상회의를 개최한 것은 매우 의의가 크다"고 강조했다.

'서울 선언'은 AI 거버넌스의 3대 우선 목표로 안전·혁신·포용을 제시하고, 각국 AI 안전 연구소 간 네트워크를 조성하고 글로벌 협력 촉진을 다짐하는 내용을 골자로 한다. '서울 의향서'는 AI 안전 연구소를 포함하는 공공 또는 정부 지원 기관을 설립하거나 확장하기 위한 공동의 노력을 격려하고, 핵심 파트너들 간의 국제 네트워크를 발전시키기 위해 긴밀한 협력, 대화를 이어 나간다는 내용을 담았다.
 

이종호 과기정통부 장관(오른쪽)이 22일 'AI 글로벌 포럼'이 끝난 뒤 진행된 미셸 더넬런 영국 과학혁신기술부 장관과의 합동 브리핑에서 발언하고 있다. [사진=윤선훈 기자]

브리핑에서 이종호 장관은 올해 안에 AI 안전 연구소를 한국에도 만들 계획이라고 밝혔다. 1차적으로 과기정통부 산하 한국전자통신연구원(ETRI) 내 최소한의 인력으로 설립을 한 뒤, 추가적으로 대응 범위가 넓어지는 등의 변화가 생기면 몸집을 키워 ETRI나 과기정통부 산하 기구로 확대해 AI 안전 문제에 신속하고 체계적으로 대응토록 할 예정이다. 현재 AI 안전 연구소는 영국에 가장 먼저 설립됐고, 최근 미국으로도 확산됐다.

관련기사

• 'AI위원회' 구성원에 시민단체는 제외..."소비자 목소리 반영 어렵다"
• 풀무원, AI 챗봇 두리번 운영...임직원에 HR 정보 제공

앞서 이날 오전 열린 AI 글로벌 포럼 개회식에서도 '서울 선언'을 통해 앞으로 AI가 가져야 할 핵심 가치가 안전·혁신·포용이 돼야 한다는 점이 재확인됐다. 특히 'AI 글로벌 포럼'에 참석한 국내외 주요 AI 기업들이 책임 있는 AI 개발과 활용에 뜻을 함께하는 '서울 AI 기업 서약'에 일제히 합의했다는 점에서 주목된다. 서약에는 오픈AI·구글·마이크로소프트(MS)·앤스로픽·IBM·어도비 등 글로벌 AI 기업과 SK텔레콤·KT·네이버·카카오·삼성전자·LG AI연구원 등 모두 14곳이 참여했다. 

이종호 과기정통부 장관은 '서울 AI 기업 서약'과 관련해 "AI가 생성한 콘텐츠를 워터마크로 식별하는 조치를 취하고, 국제 표준 개발을 위한 협력을 강화하며 AI의 지속 가능한 발전과 혁신을 위한 시스템 개발에 투자할 것을 약속한다"고 설명했다. 아울러 "사회적 취약 계층을 위한 AI 서비스를 출시하고, 글로벌 과제를 해결하기 위한 AI 솔루션을 개발하며 다양성과 포용성을 장려할 것을 약속한다"고 덧붙였다.
 

22일 오전 서울 성북구 한국과학기술연구원(KIST)에서 열린 '글로벌 AI 포럼' 개회식에서 한덕수 국무총리 등 참석자들이 기념촬영을 하고 있다. [사진=윤선훈 기자]

함께 진행된 축사에서 한덕수 국무총리는 "안전은 AI에 대한 대중 신뢰를 강화하고, 안전한 기능이 글로벌 시장에서 AI 모델의 경쟁력과 지속 가능성을 강화하는 요인"이라며 "과학·의료·금융·공공 서비스 등 분야에서는 더 많은 혁신을 가져오고, 기후변화에 맞서는 전 지구적 대응에도 강력한 도구가 될 것"이라고 강조했다. 또 "기술적·상업적 측면에서 개발자들이 언어적·문화적 다양성을 AI 모델에 효과적으로 통합하도록 장려해 AI 혜택이 전 세계적으로 널리 공유될 수 있게 해야 한다"고 짚었다.

조태열 외교부 장관도 개회사에서 "이번 포럼은 윤석열 대통령이 지난해 파리 이니셔티브를 통해 표명한 AI 글로벌 거버넌스 형성에의 기여 의지를 구현한 것"이라며 "AI 소프트웨어와 하드웨어의 글로벌 강자인 한국이 AI 서울 정상회의와 AI 글로벌 포럼 개최를 계기로 인권, 법치 등 근본적 가치에 부합하는 AI 글로벌 거버넌스 형성에 더욱 기여해 나갈 것"이라고 강조했다.

'서울 AI 기업 서약'에 서명한 기업들도 안전한 AI 기술의 중요성에 공감했다. 이재용 삼성전자 회장은 첫날 정상 세션에서 화상으로 연설을 진행하고 "AI 기술의 장점을 책임감 있게 활용하는 것이 무엇보다 중요하다"며 "혁신 과정에서 AI 악용을 최소화하고 혜택을 극대화하기 위한 방안이 전 세계적으로 논의돼야 한다"고 강조했다. AI 안전·신뢰의 필요성을 역설한 것이다.

네이버 창업자인 이해진 최고투자책임자(GIO)는 더욱 안전한 AI를 위해서는 각 지역 문화와 가치를 존중하는 책임감 있는 다양한 AI 모델의 등장이 필요하다고 강조했다. 이 GIO는 "극소수 AI가 현재를 지배하면 과거 역사·문화에 대한 인식은 해당 AI의 답으로만 이뤄지고, 결국 미래까지 해당 AI가 큰 영향을 미치게 된다"며 "다양한 시각을 보여주고 각 지역 문화적·환경적 맥락을 이해하는 AI 모델이 많이 나와야 한다"고 강조했다. 네이버는 오는 6월 구체적인 AI 윤리 준칙도 발표할 예정이다. 
 

"AI 기술 자체가 아닌, AI의 잘못된 적용이 규제돼야"

개회식 직후 개최된 고위급 라운드테이블에서는 미셸 더넬란 장관, 크리술라 자카로풀루 프랑스 개발국제협력부 국무장관, 자닐 푸투치어리 싱가포르 정보통신부 선임 국무장관, 고학수 개인정보보호위원회 위원장, 미국 세스 센터 국무부 핵심·신흥기술특사대행 등 70여명의 고위급 인사와 저명 인사들이 모여 혁신·안전·포용을 주제로 열띤 논의를 진행했다.

참가자들은 오픈소스 모델과 데이터 공유를 통한 협력적·개방적 AI 혁신 방안을 논의하고, AI 기술이 아닌 AI의 위험한 적용이 규제의 대상이 돼야 하며 AI 위험성 평가는 사실과 데이터를 바탕으로 이뤄져야 한다는 점에 공감했다.

또 AI 관련 국제 규범은 공통의 AI 거버넌스 기준을 제공하고 경쟁을 저해하지 않아야 하고, 프론티어AI 기술의 오남용·사고를 줄이기 위해 제3자 테스트의 제도화가 필요하며, 고급AI 시스템의 안전 보장을 위해서는 적절한 국제 보고제도가 필요하다는 점이 제안됐다. 나아가 참가자들은 국가 간 그리고 국내적인 AI·디지털 격차 해소를 위해 국제사회가 함께 노력할 필요성을 강조하고, AI 모델에 언어적·사회문화적 다양성을 반영하기 위한 최근 기술 개발 현황에 대해서 논의했다.
 

미셸 더넬란 영국 과학혁신기술부 미셸 더넬란 장관(왼쪽 둘째)이 22일 오후 서울 성북구 한국과학기술연구원(KIST)에서 열린 'AI 서울 정상회의' 장관 세션에서 개회사를 하고 있다. 미셸 장관 오른편에 이종호 과학기술정보통신부 장관도 자리했다. [사진=연합뉴스]

오후에 열린 장관 세션에서는 이종호 장관과 미셸 장관 주재로 국제연합(UN)을 비롯해 미국·일본·프랑스·독일 등 21명의 대표단이 참석했다. 여기에 삼성전자·SKT·LG AI연구원 등 국내 기업들과 구글 딥마인드·앤스로픽 등 글로벌 AI 기업, 학계·시민사회에서도 22명의 주요 인사가 함께 참여해 다양한 의견을 공유했다. 

이 자리에서는 AI 안전 연구소의 네트워킹 등 글로벌 협력 방안과 에너지·환경·일자리 등 AI의 잠재적 부작용에 대해 회복 탄력성을 확보하기 위한 방안을 심도 있게 논의했고, 이를 토대로 28개국이 동참한 'AI 안전·혁신·포용 증진을 위한 서울 장관 성명'을 채택했다. 이 자리에서 이종호 장관은 "AI의 악영향과 부작용으로부터 회복 탄력성을 확보하고 지속 발전 가능성을 확보하기 위해 필요한 정부의 역할을 논의하겠다"고 말했다. 미셸 장관 역시 "앞으로의 활동을 통해 구체적인 계획에 대해 합의하고 글로벌 AI 안전성을 담보하기를 바란다"고 강조했다.

같은 시간 진행된 전문가 세션에서도 AI의 올바른 방향에 대한 고민이 이어졌다. 첫 번째 세션은 염재호 태재대 총장이 좌장을 맡았으며 강도현 과기정통부 제2차관이 디지털 권리를 강화하고 디지털 격차를 줄이기 위한 정책·이니셔티브를 소개했다. 이후 디지털 시대의 기본 가치 보장, 지속 가능한 혁신, 국제 협력 방안 등에 관해 심도 있는 논의가 이어졌다. 두 번째 세션은 토니 가프니 벡터연구소장이 좌장을 맡았으며, 고진 디지털플랫폼정부위원장이 공공 부문에서의 AI 적용을 소개했다.

이종호 장관은 "지난해 블레츨리와 이번 서울에서의 성과를 내년 프랑스에서 개최되는 AI 행동 정상회의로 이어 나가, 국제사회의 역량을 결집해 AI의 안전·혁신·포용을 달성하는 '서울 효과'를 일으키기를 바란다"며 "이번에 확보한 리더십을 바탕으로 앞으로도 글로벌 AI 거버넌스와 규범 정립을 위해 국제사회와 긴밀하게 연대해 나가겠다"고 다짐했다.