EU부터 美·日까지 AI 규제 강화…"금융권, 법제화 전 먼저 움직여야"
2024-10-17 16:00
하나금융硏 'AI 규제' 관련 보고서 발표…22대 국회서 다수 법률안 발의
올해 각국이 인공지능(AI) 규제를 시작한 가운데 국내 금융사가 법제화에 선제적으로 대응해야 한다는 제언이 나왔다. 특히 AI 활용으로 생길 수 있는 리스크 관리 체계를 구축해야 한다는 지적이다.
하나은행 산하 하나금융연구소는 17일 이러한 내용이 포함된 ‘강화되는 AI 규제, 금융업의 대응은?’이라는 보고서를 발표했다.
보고서에 따르면 올해 5월 유럽연합(EU) 이사회가 ‘AI 법안’을 승인하면서 미국, 일본 등 각국 정부는 AI로 인해 발생하는 부작용을 막기 위한 규제 마련을 시작했다. EU의 AI 법안은 세계 최초의 포괄적 AI 규제 법률이다. 미국은 일부 주에서 규제 마련을 추진 중이며 일본은 'AI제도연구회'를 출범해 법제화를 시작했다.
이러한 규제가 본격화한 건 금융권을 포함한 기업의 AI 활용이 급증하고 있기 때문이다. 올해 전 세계 기업 중 약 70%가 생성형 AI를 도입해 사용하고 있다. 이에 따라 범용 AI 모델은 2019년(4종류) 대비 지난해 기준 총 149종류로 37배 이상 늘었다.
그만큼 AI로 발생할 수 있는 리스크가 커진 셈이다. 최근 국내에서도 딥페이크로 인한 성범죄 사건 등이 발생하면서 AI 규제를 강화하기 위한 법제화 움직임이 나타나고 있다. 딥페이크는 사람의 외모, 몸짓, 음성 등을 합성하는 기술을 말한다.
지난 5월 말 임기가 시작된 제22대 국회에서는 이미 강화된 규제를 담은 다수 AI 법안이 발의됐다. 대표적으로 AI 산업 육성과 신뢰 확보에 관한 법률안이 있다. 여기엔 △고위험 영역 AI 확인 제도 △생성형 AI 이용 제품·서비스 제공자의 사전 고지와 표시 제도 등에 관한 내용이 담겼다.
이에 국내 금융사는 구체적인 AI 규제가 제정되기 전 선제적인 대응에 나서야 한다고 보고서는 지적했다. 특히 AI의 잠재적 위험을 관리할 체계를 구축해야 한다고 밝혔다. 또 AI 의사 결정의 편향성 등을 염두에 둔 데이터 품질의 지속적인 관리와 개선 노력의 필요성을 강조했다. 전문 인력을 확보하는 한편 기존 직원을 대상으로 사내 교육에도 주력해야 한다고 전했다.
류창원 하나금융연구소 연구위원은 “전 세계적으로 AI의 올바른 활용을 위한 규제 움직임이 확산하고 있다”며 “국내에서는 자율 규제 형식을 유지하고 있지만 딥페이크 사태로 인해 법률 규제가 등장할 가능성도 있다”고 말했다.
하나은행 산하 하나금융연구소는 17일 이러한 내용이 포함된 ‘강화되는 AI 규제, 금융업의 대응은?’이라는 보고서를 발표했다.
보고서에 따르면 올해 5월 유럽연합(EU) 이사회가 ‘AI 법안’을 승인하면서 미국, 일본 등 각국 정부는 AI로 인해 발생하는 부작용을 막기 위한 규제 마련을 시작했다. EU의 AI 법안은 세계 최초의 포괄적 AI 규제 법률이다. 미국은 일부 주에서 규제 마련을 추진 중이며 일본은 'AI제도연구회'를 출범해 법제화를 시작했다.
이러한 규제가 본격화한 건 금융권을 포함한 기업의 AI 활용이 급증하고 있기 때문이다. 올해 전 세계 기업 중 약 70%가 생성형 AI를 도입해 사용하고 있다. 이에 따라 범용 AI 모델은 2019년(4종류) 대비 지난해 기준 총 149종류로 37배 이상 늘었다.
그만큼 AI로 발생할 수 있는 리스크가 커진 셈이다. 최근 국내에서도 딥페이크로 인한 성범죄 사건 등이 발생하면서 AI 규제를 강화하기 위한 법제화 움직임이 나타나고 있다. 딥페이크는 사람의 외모, 몸짓, 음성 등을 합성하는 기술을 말한다.
지난 5월 말 임기가 시작된 제22대 국회에서는 이미 강화된 규제를 담은 다수 AI 법안이 발의됐다. 대표적으로 AI 산업 육성과 신뢰 확보에 관한 법률안이 있다. 여기엔 △고위험 영역 AI 확인 제도 △생성형 AI 이용 제품·서비스 제공자의 사전 고지와 표시 제도 등에 관한 내용이 담겼다.
이에 국내 금융사는 구체적인 AI 규제가 제정되기 전 선제적인 대응에 나서야 한다고 보고서는 지적했다. 특히 AI의 잠재적 위험을 관리할 체계를 구축해야 한다고 밝혔다. 또 AI 의사 결정의 편향성 등을 염두에 둔 데이터 품질의 지속적인 관리와 개선 노력의 필요성을 강조했다. 전문 인력을 확보하는 한편 기존 직원을 대상으로 사내 교육에도 주력해야 한다고 전했다.
류창원 하나금융연구소 연구위원은 “전 세계적으로 AI의 올바른 활용을 위한 규제 움직임이 확산하고 있다”며 “국내에서는 자율 규제 형식을 유지하고 있지만 딥페이크 사태로 인해 법률 규제가 등장할 가능성도 있다”고 말했다.