범금융권에서 힘을 모아 처음으로 연합학습 기법을 도입해 인공지능(AI) 개발에 나선다. 출발은 전세사기, 보이스피싱 등 이상거래를 탐지하기 위한 개발로 시작하지만, 향후 개발 성과에 따라 오픈AI의 챗GPT와 같은 AI 플랫폼 개발까지 진전시키겠다는 목표다. 

2일 금융권에 따르면 금융보안원은 지난달 25일 열린 AI 관련 워킹그룹 출범회의에서 실무 논의를 진행한 뒤 민관 공동으로 금융 AI 개발을 진행하기로 했다. 보안원은 최초 자발적으로 연합학습 기반 AI 개발에 참여할 금융회사를 모았고, 은행 6곳과 금융투자회사 2곳이 개발에 참여하기로 했다. 이들은 이른 시일 내 AI 개발 관련 실무진 간 태스크포스(TF)를 꾸려 논의에 들어간다.

최근 챗GPT의 등장과 함께 생성형 AI 개발에 전 세계가 관심을 쏟고 있지만, 국내 금융회사들의 경우 보안 사고를 막기 위한 망분리 규제로 인해 이를 제대로 활용하지 못하고 있다. 금융사들은 자체적으로 쌓은 데이터를 AI 개발에 이용하려는 시도를 계속하고 있지만, 내부 데이터만으로는 개발의 한계점이 분명하다. 망분리 규제로 외부 데이터를 내부망으로 읽어올 수도 없는 상황이다.

이를 해결하기 위해 도입된 개념이 연합학습이다. 연합학습이란 개인이나 기관 등 여러 위치에 분산 저장된 데이터를 직접 공유하지 않고, AI 개발 모델을 각기 다른 데이터로 분산해 학습시킨 뒤 분석한 결과만을 중앙 서버로 전송해 모델을 갱신하는 기법을 말한다. 예컨대 보안원이 하나의 AI 모델을 8개 금융사에 동시에 뿌린 뒤 각 회사가 학습을 시키면 학습 결과를 다시 보안원으로 불러와 종합하는 식이다.

현재 개별 금융사 데이터로는 신뢰할 수 있는 AI 개발을 만들기 어렵지만, 연합학습을 이용하면 자사 데이터 말고 다른 회사의 데이터까지도 참조할 수 있게 돼 개발된 AI가 업무를 더욱 정확하게 수행할 수 있게 된다.

연합학습을 이용한 AI 개발의 1차 목적은 이상금융거래탐지시스템(FDS)의 고도화다. 현재 금융사들은 각기 다른 FDS를 이용하는 것은 물론, FDS를 세부화해 수십 개의 모델을 활용하는 경우도 있다. 보안원은 이번 AI 개발을 통해 통합 FDS 모델을 제시하고, 향후에는 생성형 AI 등과 같은 다른 영역으로도 AI 개발 확대에 나서겠다는 목표다.

다만 금융데이터의 민감성은 향후 해결해야 할 과제다. 아직 금융사들은 개인정보가 담긴 금융데이터를 다루는 데 민감하다 보니 연합학습 기법이 실제로 자사의 금융데이터를 안전하게 보호하면서 기능만 공유할 수 있는지 의문을 표한다. 아울러 연합학습으로 개발한 AI 모델이 실제 업무의 효율성을 높여줄 수 있는지에 대한 의문도 여전하다.

보안원 관계자는 "연합학습은 아직 시도된 바가 없다 보니 이론상 효과가 있다고 해서 실제 유의미한 변화가 있을지 봐야 한다"면서도 "의구심에 대해서는 긍정적인 결과로 보여주는 수밖에 없다. 좋은 결과로 금융사들이 더욱 많이 참여할 수 있도록 설득할 수 있었으면 좋겠다"고 말했다.

보안원은 올해 하반기 테스트에 돌입한 뒤 향후 결과 수준에 따라 AI 워킹그룹으로 결과를 공유할 예정이다.