'인간성을 위한 AI' 실현에 필요한 것은?…국가 'AI윤리' 기준안 공개

인공지능 기술이 발전하면서 기술 오용과 데이터 편향 등 윤리 문제가 제기되고 있다. 정부는 민간 전문가 의견을 수렴해 공공기관, 인공지능 기술 개발자, 인공지능 기술을 활용한 제품·서비스 공급자와 사용자 등 모든 사회 구성원이 고려해야 할 포괄적 윤리 기준을 마련했다. 인간 고유의 성품, 즉 '인간성(Humanity)'을 보존하고 함양하는 인공지능을 목표로 제시한 '국가 인공지능 윤리기준(안)'이다.

과학기술정보통신부와 정보통신정책연구원은 인공지능 시대 바람직한 인공지능 개발·활용 방향을 제시하기 위한 국가 인공지능 윤리기준(안)을 27일 발표했다. 윤리적 인공지능을 실현하기 위해 정부·공공기관, 기업, 이용자 등 모든 사회구성원이 함께 지켜야 할 주요 원칙과 핵심 요건을 제시하는 기준으로, 인공지능·윤리학·법학 등 학계·기업·시민단체를 아우르는 주요 전문가들이 자문과 의견수렴 과정에 참여했다.

앞서 우리나라가 주도적으로 참여한 경제협력개발기구(OECD) 인공지능 권고안이 작년 5월 나왔다. OECD, 유럽연합(EU) 등 세계 각국과 국제기구, 기업, 연구기관 등 여러 주체로부터 다양한 인공지능 윤리 원칙이 발표됐다. 과기정통부는 작년 12월 '인공지능 국가전략' 주요 과제로 국가 인공지능 윤리기준 마련을 추진해 왔다. 인공지능 윤리연구반을 구성해 국내외 원칙을 분석하고 윤리철학 이론적 논의와 연계해 초안을 짜고 3개월간 전문가 의견을 수렴해 이번 안을 만들었다.

 

최기영 과기정통부 장관.[사진=연합뉴스 제공]

국가 인공지능 윤리기준(안)은 '인간성을 위한 인공지능'을 위한 3대 기본원칙, 10대 핵심요건을 제시한다. 기본원칙은 인간성을 구현하기 위해 인공지능의 개발 및 활용 과정에 인간의 존엄성 원칙, 사회의 공공선 원칙, 기술의 합목적성 원칙을 지켜야 한다는 것이다. 핵심요건은 인권 보장, 프라이버시 보호, 다양성 존중, 침해금지, 공공성, 연대성, 데이터 관리, 책임성, 안전성, 투명성 등으로, 3대 기본원칙이 실천·이해되도록 인공지능 개발 및 활용 과정에 충족돼야 하는 요소들이다.

관련기사

• 과학기술정보통신부
• 마이베네핏, 2024년 과학기술정보통신부 데이터바우처 지원사업 성공적 완료

과기정통부는 모든 사회 구성원이 모든 분야에서 자율적으로 준수하며 지속 발전하는 윤리기준을 국가 인공지능 윤리기준(안)의 목표로 설정했다. 인공지능 개발부터 활용까지 전 단계에 정부·공공기관, 기업, 이용자 등이 이를 참조하고 범용성을 갖는 일반원칙으로 각 영역별 세부 규범이 유연하게 발전해나갈 수 있는 기반을 제공하는 기준을 지향한다. 또 구속력이 있는 법이 아닌 도덕적 규범으로서 기업의 자율성을 존중하고 기술과 사회변화에 유연하게 대처할 수 있는 윤리 담론을 형성하고, 사회경제, 기술 변화에 따라 새로 제기되는 윤리 문제를 논의해 발전시킬 기반으로 활용되길 기대한다.

최기영 과기정통부 장관은 "이번 국가 인공지능 윤리기준(안) 공개가 국가 전반의 인공지능 윤리 이슈에 대한 인식과 논의를 활성화함으로써 '사람 중심의 인공지능'으로 나아가는 기반이 되기를 기대한다"면서 "국가 인공지능 윤리기준이 새롭게 제기되는 인공지능 윤리이슈에 대한 토론과 숙의의 토대가 되고 현장에 정착할 수 있도록 노력하고, 윤리기준의 사회 확산을 위한 주체별 체크리스트 개발 등 실천방안도 마련해나가겠다"고 말했다.

과기정통부는 다음달 7일 공청회를 통해 국가 인공지능 윤리기준(안)을 소개할 예정이다. 15일까지 시민들의 의견을 이메일로 접수한다. 공개 의견수렴을 거쳐 보완된 최종 국가 인공지능 윤리기준은 다음달 중순경 대통령 직속 4차산업혁명위원회 심의를 거쳐 확정될 예정이다.