AI(인공지능) 기술의 발달이 급격히 가속화하고 있는 가운데, 국내에서 AI 안정성과 신뢰성 제고를 위한 기술·정책을 논의하는 자리가 열렸다. 과학기술정보통신부는 이 자리에서 지속가능한 AI혁신생태계 조성을 위한 정책 성과를 공유했다.
 
과기부는 26일 오전 서울 전쟁기념관에서 ‘AI 신뢰·안정성 컨퍼런스’를 개최했다고 밝혔다.
 
이번 행사는 과기부와 한국정보통신기술협회(TTA), 정보통신정책연구원(KISDI) 등이 주최하고, 세계적 석학과 국내 대기업이 대거 참석했다.
 
먼저 국내‧외 AI신뢰‧안전 기술‧정책 동향 공유하는 시간을 가졌다.
 
기조강을 맡은 요슈아벥오 몬트리올대 교수는 “AI안전 확보를 위한 정책과 과학의 중요성을 강조하며, 최첨단AI모델의 위험에 대한 효과적인 관리를 위해 국내법-국제협약간의 상호조화가 필요하다”며 “과학측면에서는 AI모델의 정렬과 통제가 중요이슈로, 정량적으로 측정가능한 AI모델의 위험평가, 위험관리기술 확보를 위한 정부지원 확대와 AI안전연구소의 역할이 필요하다”고 강조했다.
 
두 번째 기조강연에서는 오혜연 카이스트 AI연구원장이 국제사회의 AI패권 경쟁 동향을 공유하고, 전략자산으로서 AI의 중요성을 강조했다. 아울러, AI기술의 언어‧문화적 포용성, 격차 문제 등 글로벌 사회에 미치는 영향을 소개했다.
 
이어 지난 5월 삼성전자, LG, 네이버, SK텔레콤, KT, 카카오 등이 참여한 ‘AI서울기업서약’의 이행현황을 점검하는 시간을 가졌다.
 
서약의 주요 내용은 AI 취약성과 위험을 식별‧평가하고, 안전사고에 대응하는 내부거버넌스 및 위험관리 정책을 마련한다는 것이다.
 
서약에 참여한 각사는 AI 위험관리 체계 구축, 신뢰·안정성 정책 수립 및 운영 등의 형황을 발표했다. 앞으로도 이들 기업은 자사가 제공하는 AI제품‧서비스와 관련된 책임을 깊이 인식하고, 향후 AI신뢰‧안전성 확보를 위한 노력을 더욱 강화해 나갈 것을 약속했다.
 
국가 정책 차원에서는 과기부가 지난 2020년 12월 수립한 ‘국가 AI윤리기준’을 토대로 △제3의 전문기관을 통한 민간자율 ‘AI신뢰성 인증’ 지원 △‘생성형 AI레드팀 챌린지’ 개최 △글로벌 AI규범가치(안전‧혁신‧포용)에 대한 합의를 이끌어낸 ‘AI서울정상회의’의 성공적 개최 △‘국제 AI안전연구소 네트워크’ 참여 △AI안전연구소 출범(’24.11.27. 예정) 등 정책 현황을 발표했다.
 
한편 이날 행사에서는 ‘제2회 AI신뢰성 대상’ 시상식이 개최됐다.
 
시상식을 AI신뢰성의 중요성과 인식을 업계 전반에 확산하고, 우수 AI제품·서비스에 대한 홍보를 지원하기 위한 목적으로 한다. 대상은 다비오가 개발한‘다비오 어스아이2.0’이 수상했으며, ‘신뢰할 수 있는 AI개발안내서’에 기반해 자체적인 데이터 품질관리 프로세스를 수립‧적용하여 높은 평가를 받았다.
 
송상훈 과기정통부 정보통신정책실장은 “정부가 지속적으로 추진해 온 AI신뢰‧안전성 정책의 노력에 호응하여, 최근 산업계‧학계에서도 AI신뢰‧안전성 전담조직 설치와 투자 확대 등 자발적인 노력이 확대되고 있다”며 “민간자율에 기반한 책임있는 AI개발‧활용 문화가 확산될 수 있도록 정책 지원을 강화하는 한편, 첨단AI로 인한 잠재적 위험에 대비하여 AI안전연구소를 출하고 국가차원에서 체계적으로 대응해 나가겠다”고 말했다.