'책임 있는 군사 AI' 청사진 채택..."핵 무기 사용엔 인간이 통제·개입해야"

9일 서울 중구 롯데호텔에서 '2024 인공지능(AI)의 책임있는 군사적 이용에 관한 고위급회의(REAIM 고위급회의)' 본회의가 열렸다. [사진=연합뉴스]

인공지능(AI)의 책임 있는 군사적 이용 문제를 논의하기 위해 마련된 '2024 REAIM 고위급 회의'가 '행동을 위한 청사진'(Blueprint for Action)을  결과 문서로 채택하며 막을 내렸다.

10일 외교부에 따르면 61개 국가는 이날 채택한 '행동을 위한 청사진'에서 "핵무기 없는 세계라는 궁극적 목표를 저해하지 않는 가운데 핵무기 사용에 관한 주권적 결정 관련 정보 제공 및 실행에 있어 필수적인 모든 행동에 대해 인간의 통제와 개입을 유지하는 것이 중요하다"고 밝혔다.

아울러 "국가 및 테러 집단을 포함한 비국가 행위자들에 의해 대량살상무기의 확산에 기여하는 방식으로 AI 기술이 활용되는 것을 방지할 필요성이 있다"고도 강조했다.

그러면서 잠재적으로 위험한 AI 기반 시스템을 포함한 군사 분야 AI 역량을 무책임한 행위자들이 획득·오용하는 것을 방지하기 위한 강력한 통제·보안 조치 마련도 중요하다고 덧붙였다.

참가국들은 △AI 적용은 윤리적·인간중심적일 것 △군사 분야 AI 역량은 반드시 적용 가능한 국내법·국제법에 합치하게 적용될 것 △군사 분야 AI 적용의 활용과 효과에 대해 인간이 책임·책무를 질 것 △보호장치 마련을 통해 AI 적용의 신뢰성을 보장할 것 등 원칙이 지켜져야 한다는 데 공감했다.

이는 지난해 네덜란드에서 열린 첫 회의에서 발표된 '공동행동 촉구서'(call to action)를 통해 다자 간 협력의 중요성을 강조한 데 이어 상대적으로 구체적인 실행 방안을 제시한 것으로 보인다.

한편 한국 정부는 향후 이번 결과 문서 내용을 토대로 유엔 총회 등에서 후속 논의를 추진할 예정인 것으로 알려졌다.