솔트룩스, 생성 AI 모델 윤리성 향상 연구 사업 선정

[사진=솔트룩스]

솔트룩스는 컨소시엄을 통해 2024년 제1차 정보통신·방송 기술개발사업·표준개발지원사업 신규지원 대상과제인 '사회적·윤리적 학습을 위한 데이터 특성 및 생성 AI 모델의 윤리성 향상 연구'에 선정돼 3년간 사업을 수행하게 됐다고 24일 밝혔다.

회사 측에 따르면 이는 인공지능·데이터 부문 중 차세대 생성 AI 기술 개발 사업에 속하는 국책과제다. 생성 AI의 사회·윤리성 강화를 위한 모델 성능 향상 기술을 개발하는 것을 목표로 한다. 특히 AI의 사회적 판단에 대한 연구는 세계 최초로 시도되는 것이다. 사업비는 약 49억원 규모다. 

컨소시엄에는 김학수 건국대 교수, 구명완 서강대 교수, 천현득 서울대 교수, 고영중 성균관대 교수, 김기응 카이스트 교수, 김산 한국전자기술연구원 선임연구원, 장두성 KT 상무, 김경선 다이퀘스트 연구소장 등 AI 분야 국내 최고 전문가들이 참여했다. 인공지능·딥러닝 분야의 공학 연구진 외에도 철학·인문학·사회과학 등 다학제 연구진이 참여했다.

과제의 세부 목표는 △다양한 보편적 특성과 도메인의 특징에 부합하는 생성 AI 사회·윤리성 가이드라인 수립 △지속·확장 가능한 사회·윤리 종합 대응 서비스 플랫폼 핵심 기술 개발 △연구 산출물 공개·실증을 통한 확산 등이다. 최종적으로는 생성 AI 모델과 서비스 개발자 누구나 활용할 수 있는 Ethics-GenAIOps 오픈 플랫폼을 개방하고 100만명 이상의 사용자를 확보할 계획이다.

관련기사

• 펑크비즘·네이버클라우드·노바필름, 펑키콩즈 RWA 3자 컨소시엄 MOU 체결
• 우미건설 컨소시엄, ,마곡에 '뉴브 클라우드힐스' 공급

솔트룩스 관계자는 "이번 과제를 통해 AI에 대한 사회·윤리성 평가 기준과 동작 검증 방법이 마련되면서, 기존 모델을 보완하고 향후 더 안전한 AI를 개발할 수 있는 환경이 조성될 것으로 보인다"며 "AI가 자신의 행동을 돌아볼 수 있는 시스템으로 확장, 기계와 사람이 서로 협력하는 시대의 초석을 다질 것으로 기대된다"고 강조했다.

김재은 솔트룩스 랩장은 "범국가적 연구개발 프로젝트 '엑소브레인'에 이어 본 과제를 수행하게 되면서, 국가 AI 기술의 혁신을 다시 한번 이루기 위해 컨소시엄 전체가 뜻을 모았다"며 "사람과 기계가 지식 소통하는 세상을 목표하는 기업으로서, 앞으로도 바람직한 디지털 질서 정립을 위해 힘쓸 것"이라고 말했다.