인공지능(AI) 사용의 부작용이 사회적 문제로 대두하자 기업들이 기술 안전성 확보를 위해 자체적인 노력을 강화하고 있는 추세다. 세계 각국에서 AI 규제 속도를 높이고 있을 뿐더러 AI 사용으로 인한 윤리적 문제가 기업의 재무적 손실로 이어질 수 있다는 위기감이 고조되고 있어서다. 이에 국내 빅테크 기업 네이버와 카카오는 자체적인 AI 윤리 기준을 정립하는 한편, 세계에 기술 안전성을 알리는 데 집중하고 있다. 

26일 업계에 따르면, 네이버와 카카오가 AI 안전성 정책을 강화하고 유럽연합(UN) 등이 주최하는 글로벌 행사에 참여해 AI 윤리 성과를 공유했다. 딥페이크 문제, 개인정보 침해 등  AI 부작용 우려가 커지고 있는 상황에서 회사의 기술 안전성을 전 세계에 알리기 위함이다. 

네이버는 최근 스위스의 UN 제네바 사무소에서 열린 행사에서 안전한 AI를 위한 추상적 원칙을 산업 실무에 적용해온 사례를 공유했다. 대표적으로 △AI 윤리 자문 프로세스 '체크(CHEC)' △사람을 위한 '클로바X 활용 가이드' △ AI의 잠재적 위험을 인식·평가·관리하기 위한 'AI 안전성 실천 체계(ASF)' 등 네이버의 정책적 노력을 소개했다. 특히 올해 새롭게 구축한 네이버 ASF는 AI가 초래할 수 있는 위험을 '통제력 상실 위험'과 '악용 위험'으로 나누고, 주기적으로 평가·관리하는 것이 특징이다. AI 안전성 체계를 설계하고 실천하는 것은 네이버가 국내에선 처음이다.

카카오 역시 사우디아라비아에서 열린 UN 포럼에서 안전하고 신뢰받는 AI 기술 개발을 위한 노력을 소개했다. 카카오는 지난 4월 그룹 차원의 기술 윤리 체계를 구축하기 위해 '그룹 기술윤리 소위원회'를 신설했다. 소위원회는 리스크 사전 점검, 기술윤리 정책 통합 관리 등 선제적 대응에 중점을 두었다. 올해 △카카오 AI 윤리 신규 항목 신설 △안전한 AI를 위한 핵심 체크리스트 도입 △생성형 AI의 사내 활용 정책 등을 새롭게 수립했다. 또 카카오는 리스크 관리 체계 'AI 세이프티 이니셔티브(ASI)를 구축했고, 글로벌 기준에 부합하는 AI 개발을 위해 글로벌 오픈 소스 커뮤니티 'AI 얼라이언스'에 국내 기업 최초로 가입하기도 했다. 

이같은 노력은 각국의 AI 규제, 기업 평판 손상, 수익성 악화 등 AI 기술 위험성을 우려한 선제적 대응으로 풀이된다. 아마존, 구글, 메타, 마이크로소프트(MS) 등 빅테크 기업들이 연례 재무보고서에 공통적으로 AI가 초래하는 규제 불확실성과 윤리적 문제를 기업 성장을 저해하는 위험 요인으로 꼽았다. 아마존은 "AI·머신러닝(ML) 기술 기반 제품 사용으로 인한 사회‧윤리적 문제가 회사의 매출과 영업이익 손실로 이어질 가능성이 있다"고 전망했다. 구글 역시 "AI와 관련한 불확실한 법률 규범으로 인해 법적 책임에 대한 부담이 있고, AI의 사회·윤리적 이슈로 인한 기업가치 손상 등이 회사의 재무 상태와 운영 실적에 해를 끼칠 수 있다"고 우려했다. 

IT 업계 관계자는 "기업들이 AI 제품과 서비스의 광범위한 영향력과 위험성을 인지하고, AI가 초래한 부작용이 기업 생존을 좌우할 수 있다는 위기의식에도 공감하고 있다"면서 "그렇기 때문에 기업들이 신뢰할 수 있는 AI를 개발하기 위해 자발적인 노력을 기울이고 있다"고 전했다.