초거대 AI 공습 막아라···김주현 "규제샌드박스 적극 확대할 것"

김주현 금융위원장이 17일 오후 서울 중구 은행연합회에서 열린 '금융 산업의 인공지능 대응 전략 세미나'에서 축사를 하고 있다. [사진= 박성준 기자]

김주현 금융위원장이 인공지능(AI) 투자·활용을 적극 유도하고 오작동이나 디지털 쏠림 현상 등에 대한 대응 방안이 필요하다고 강조했다. 금융위원회는 앞으로 양질의 빅데이터 확보를 위한 'AI 데이터 라이브러리'를 구축하고 신기술을 활용할 수 있도록 데이터 규제 개선도 추진한다. 또 테스트베드와 안내서를 마련하는 등 금융권에 대해 AI 활용 활성화를 적극 지원하겠다는 방침을 세웠다.

금융위는 17일 '금융산업의 인공지능 대응 전략 세미나'를 개최했다. 이날 세미나에서는 금융당국과 금융회사, 관계 전문가 등이 참석해 AI 활용 현황을 공유하고 금융산업 경쟁력을 높이기 위한 AI 정책 방향 등에 대해 논의했다.

김 위원장은 축사에서 "최근 챗GPT로 대표되는 초거대·생성형 AI 기술 발전으로 AI의 잠재력이 새롭게 주목받고 있으며 맞춤형 금융서비스 추천은 물론 금융소비자 편의성을 높이고 금융회사 업무 효율성을 높이는 AI가 다양한 영역에 걸쳐 도입·활용되고 있다. 금융위는 금융권에 대해 AI 투자·활용을 적극 지원할 것"이라고 말했다.

김 위원장은 신뢰 확보에 더욱 노력을 기울여야 한다고 당부했다. 그는 "AI 활용 확대와 함께 개인정보 침해, 사이버 보안, 윤리적 문제와 같은 다양한 리스크에 대한 우려도 상당하다"면서 "금융회사가 특정 AI 모델을 활용할 때 디지털 집중 리스크가 확대돼 금융 안정에도 영향을 미칠 수 있다는 점에서 AI에 대한 신뢰성·책임성 확보 방안이 다른 어느 분야보다 중요하다"고 강조했다.

관련기사

• 이재명 "AI는 칼과 같다...유용한지 나쁜지는 사람에게 달려"
• 마이크로소프트 만난 정만기 무역협회 부회장 "초창기 AI 시장, 규제보다 생태계 구축이 먼저"

앞으로 금융위는 △금융 AI 데이터 라이브러리 구축 △데이터 결합 전문기관 추가 지정 △AI 테스트베드 구축 △금융 데이터 규제 개선 △설명 가능한 AI 안내서 마련 등을 추진한다.

금융위는 먼저 금융 AI 데이터 라이브러리를 구축하기로 했다. 라이브러리는 현재 가명정보 결합 후 해당 데이터는 사용 즉시 파기해야 하지만 결합된 데이터에 대해 재사용을 규제 샌드박스를 통해 허용할 예정이다. 또 AI 신뢰를 높이기 위한 테스트베드도 만든다. 테스트베드는 신용평가·금융사기방지·금융보안 AI 등에 대한 검증을 수행할 수 있도록 검증용 데이터와 컴퓨팅 자원 등을 제공할 예정이다.

아울러 AI 모델의 작동 원리, AI 의사결정의 근거 등을 사람이 쉽게 이해할 수 있도록 설명해주는 AI 기술인 설명 가능한 AI 안내서를 마련한다는 계획이다.

이날 서정호 금융연구원 부원장은 '금융산업의 AI 활용과 정책과제'라는 주제 발표를 통해 향후 AI 도입에 장애가 되는 규제를 정비하는 등 우선 활성화에 방점을 두고, AI가 활성화하는 시점에 기능별 규제 시스템을 구축할 필요가 있다고 언급했다. 그러면서 AI 규제 원칙으로 △원칙 중심 접근 △리스크 기반 접근 △데이터 생태계 강화 등을 제시했다.