금융 분야 인공지능(AI) 서비스를 개발·활용할 때 현장 실무자들이 쉽게 참고할 수 있는 보안 가이드라인이 마련됐다. 이를 통해 그간 객관적인 검증체계가 부족했던 신용평가모형도 앞으로는 적절한 데이터 관리 체계가 구축돼 있는지, 모형 선정 과정이 최적화돼 있는지 등을 확인할 수 있다. 또 AI 개발 과정에서 학습데이터나 모델 설계에 보안 오류는 없는지도 검증하게 된다.

금융위는 지난 2022년 8월 발표한 '금융분야 인공지능 활용 활성화·신뢰확보 방안'의 후속조치를 17일 공개했다. 금융권에서 신뢰받는 AI 활용 환경을 구축할 수 있도록 'AI 기반 신용평가모형 검증체계'와 '금융분야 AI 보안 가이드라인'을 마련했다.

AI 기반 신용평가모형 검증체계는 복잡한 알고리즘을 사용하기 때문에 평가결과에 대한 직관적인 해석과 설명이 다소 어렵다는 문제를 해소하기 위해 마련됐다. 기존 전통적인 개인신용평가모형에 대한 검증 체계에서 한 단계 더 나아가 △데이터 관리 △모형 선택 △설명 가능성 △모형 성능 등을 검증하게 된다.

먼저 신용평가에 활용하는 비금융·비정형 데이터에 대한 적절한 관리체계를 구축하였는지 점검한다. 비금융·비정형 데이터를 신뢰성 높은 출처로부터 수집하고, 데이터의 일관성·정확성 등을 주기적으로 확인한다. 또 AI알고리즘의 특성과 장단점을 고려해 신용평가에 최적화된 모형을 선택했는지 선정 과정을 점검한다. 이때 CB사는 다양한 알고리즘 결과를 조합해 모형을 개발하는 만큼, 모형 개발의 상세 과정을 확인한다.

이외에도 신용정보회사가 개발한 신용평가모형이 통계적으로 유의한지, 소비자에게도 충분히 설명할 수 있는 것인지 확인한다. 신용정보법에 따르면 개인은 신용평가 결과, 평가 기준, 평가에 이용되는 정보의 내용 등에 대하여 모든 설명을 요구할 수 있다.

AI 서비스 개발 실무자가 활용할 수 있는 개발단계별 세부 보안 안내서도 마련됐다. 보안 가이드라인은 'AI 모델 개발단계별 보안 고려사항'과 'AI 챗봇 서비스에 대한 보안성 체크리스트'를 제시하고 있다.

AI 모델 개발은 '학습 데이터 수집→ 학습 데이터 전(전)처리→ AI 모델 설계·학습→ AI 모델 검증·평가' 단계에 따라 구성되며, 주요 고려사항으로는 △신뢰성 높은 출처로 학습데이터를 수집하고, 데이터 관리체계를 구축 △적대적 예제 생성·학습 등을 통해 AI 모델에 대한 공격 예방 △단순한 설계를 지양하고, AI 모델을 세부 변형하는 보안 기법 적용 △AI 모델이 공격을 선제적으로 탐지하고 방어할 수 있는지 확인 등을 제시했다.

마지막으로 금융분야에서 AI가 가장 활발히 사용되는 분야 중 하나인 챗봇서비스에 대해서는 'AI 챗봇서비스 보안성 체크리스트'를 별도로 마련했다. AI 챗봇서비스의 보안성 확보에 필요한 사항들을 체크리스트 형태로 구체화해 실무자가 챗봇서비스 개발 시 쉽게 활용할 수 있을 것으로 금융위는 기대하고 있다. 

금융위는 금융분야 AI 보안 가이드라인을 '금융보안 레그테크 포털'에 게시하고, 새로운 보안위협·대응기법 등을 고려하여 지속 개선·보완할 계획이다. 상반기 내 신용정보원을 중심으로 '금융 AI 데이터 라이브러리'를 구축할 예정이며, AI 학습데이터셋을 통해 빅데이터를 금융권 공동으로 확보한다. 또 8개 데이터전문기관을 추가로 지정할 예정이며, 설명가능한 AI 관련 연구용역에 대한 결과와 안내서도 공개한다

금융위는 "AI가 초지능·초연결·초융합 시대에 혁신적 서비스 개발의 핵심 기술이며, 금융분야는 고품질 데이터가 풍부해 AI 활용의 잠재력이 매우 큰 분야"라며 "앞으로 금융분야 인공지능 활용 활성화와 신뢰확보 방안의 다른 세부 추진과제도 차질 없이 추진해 나갈 것"이라고 말했다.