정보통신정책연구원(원장직무대행 김정언, KISDI)과 과학기술정보통신부(장관 유상임, 이하 과기정통부)는 지난 11월 28일 14시, 서울 중구 포스트타워에서 ‘2024 인공지능 윤리·신뢰성 포럼 공개세미나’(이하 공개세미나)를 개최했다.

이번 공개세미나는 인공지능의 윤리적 활용과 신뢰성 확보를 위한 그간의 노력을 공유하고 논의하기 위해 마련된 자리로, 각계 분야 전문가와 관계자가 참석한 가운데 논의가 이어졌다.

KISDI 문정욱 디지털사회전략연구실장과 이현경 부연구위원은 세미나에서 2024년 한 해 동안 추진해온 △AI 영상합성서비스 윤리영향평가와 △실무자용 AI 윤리교육 콘텐츠 개발 사업을 소개하며, 그간의 추진 경과와 주요 성과를 공유했다.

제1세션에서 문정욱 디지털사회전략연구실장은 ‘2024년 AI 윤리영향평가: AI 영상합성서비스’를 주제로 발표를 진행했다. 평가 개요와 진행 경과를 설명하고, 국민포럼 FGI와 전문가 평가단의 주요 평가 결과를 공유했다. 다수의 국민과 전문가들은 AI 영상합성서비스의 긍정적 영향으로 △표현의 자유 증대, △창작 활동 활성화, △사회적 약자 보호를 꼽았다. 반면 부정적 영향으로는 △프라이버시 침해, △허위·가짜정보 확산, △사회적 혼란 유발 문제를 지적했다. 문정욱 실장은 이어 정부·기업·개인의 역할과 노력에 대해 논의했다.

KISDI와 과기정통부는 2023년에 ‘AI 윤리영향평가’ 프레임워크를 개발했으며, 올해 이를 기반으로 AI 영상합성서비스를 시범 평가대상으로 선정해 평가를 진행하고 있다. 이번 세미나에서 발표된 내용은 중간 평가 결과로, 다가오는 12월 20일 종합결과에 대한 공개토론회와 의견수렴을 거쳐 내년 상반기에 AI 영상합성서비스 윤리영향평가 보고서를 발간할 예정이다.

문정욱 실장은 “AI 영상합성서비스의 긍정적 영향을 촉진하고 부정적 영향을 완화하기 위한 정책과 제도의 마련이 시급하다며 이를 위해서는 정부, 기업, 학계, 시민사회 모두 신뢰 기반으로 협력할 필요가 있다”고 강조했다.

제2세션에서는 이현경 부연구위원이 ‘AI의 윤리적 개발·활용 확산을 위한 실무자용 AI 윤리교육 콘텐츠 개발’을 주제로 발표를 진행했다. 이 부연구위원은 △교육 콘텐츠 개발 과정, △실무자 대상 전문가 조사 결과, △ AI 생애주기에 따른 윤리교육 내용을 소개하며, 글로벌 규범이 AI 기술에 대한 규제를 강화하는 방향으로 진행되는 상황 속에서, 개발 실무자들이 윤리 의식을 함양하고 법적 위험을 최소화할 수 있도록 구성되었음을 설명했다.

AI 윤리교육 콘텐츠는 국내 AI 산업에 종사하는 기획자와 개발자 등 실무자들을 위한 접근성 좋은 AI 윤리교육 콘텐츠가 부족했던 점을 감안하여 개발이 진행되었다. 특히 실무자들이 AI 제품 및 서비스를 윤리적으로 개발하고자 할 때 직면하는 딜레마를 △기술적, △외부 환경, △업계 문화, △이해관계자와의 상호작용에서 발생하는 딜레마, △의도하지 않은 윤리적 딜레마로 구분하여 설명하고, 이를 해결하기 위한 도구와 문화의 중요성이 강조되었다. 본 콘텐츠는 AI 윤리 관련 가이드라인, 원칙, 국제적 동향을 파악하기 위한 자료를 제공하며, 깃북(‘Gitbook’) 플랫폼을 통해 내년 2월에 공개될 예정이다.

이현경 부연구위원은 “실무자를 대상으로 한 인공지능 윤리 교육 개발도 중요하지만 현장에서 실효성을 담보할 수 있는 인센티브 또는 문화를 만들어 나가는 것이 중요하다”고 당부하였다.

이날 진행된 공개세미나는 유튜브를 통해 생중계되었으며, 과학기술정보통신부 유튜브 채널과 '인공지능 윤리 소통채널'에서 다시 볼 수 있다.

한편, 정보통신정책연구원은 2024년 12월 19일 목요일까지 ‘인공지능 윤리 소통채널’에서 AI 영상합성서비스 윤리영향평가 중간결과에 대한 국민 의견수렴을 진행할 예정이다.