AI 선구자 제프리 힌튼 "AI 위협, 기후변화보다 대처 시급"

제프리 힌튼 박사 [사진=AP·연합뉴스]

인공지능(AI) 연구 선구자인 제프리 힌튼 박사가 AI 기술 발전이 초래하는 위협에 대해 ‘기후변화보다 더 시급할 수 있다’는 견해를 내놨다. AI 기술의 위험성에 대해 목소리를 내기 위해 지난 10년간 일해 온 구글을 떠난 직후다.

5일(현지시간) 영국 로이터통신 보도에 따르면 이날 힌튼 박사는 이 매체와 인터뷰에서 “저는 ‘기후변화에 대해 걱정하지 않아도 된다’고 말하고 싶지 않다”며 “그것도 큰 위험이지만 이것(AI의 위협에 대처하는 일)이 더 급해질 수 있다고 생각한다”고 말했다. 또 힌튼 박사는 “여러분에게 기후변화와 관련해 할 일을 권고하기는 매우 쉽다”며 “탄소 연소를 중단하는 것이고, 그러면 결국 괜찮아질 것”이라고 했다. 반면 그는 AI의 위협에 대처하는 일에 대해 “여러분이 어떻게 해야 할 것인지 전혀 명확하지 않다”고 우려했다.

힌튼 박사는 오늘날 ‘딥러닝(Deep Learning)’으로 불리는 인공 신경망 기술 개발 방법론의 이정표가 된 1986년 논문  ‘역전파 오류에 의한 학습 표현’의 공동 저자다. 딥러닝은 실용성을 확보한 현대 AI 시스템 개발에 필수적인 요소다. 컴퓨터과학 분야 최고 권위 학회인 미국컴퓨터학회(ACM)가 이 연구 성과를 높게 평가해 힌튼 박사에게 2018년도 튜링상을 수여했다. 튜링상은 컴퓨터과학 분야의 노벨상으로 통한다.

힌튼 박사는 2012년 캐나다 토론토대학교 컴퓨터과학 교수로 재직하면서 그의 연구실 소속 대학원생 두 명과 함께 ‘DNN리서치’라는 AI 연구 회사를 설립했다. 2013년 구글이 이 회사를 4400만 달러(약 584억원)에 인수한 이래로 힌튼 박사는 구글 부사장(Vice President) 겸 공학 석학회원(Engineering Fellow)으로 최근까지 활동하다 지난 4월 말 퇴사했다.

힌튼 박사는 자신의 퇴사 소식을 처음 보도한 미국 뉴욕타임스와 인터뷰에서 AI가 미칠 부정적 영향을 더 자유롭게 발언하기 위해 구글을 떠나기로 했다고 밝혔다. 그는 AI가 사람보다 더 똑똑해지는 시기가 수십 년 이상 미래라고 생각했지만 이제는 그런 시기가 곧 도래할 수 있다고 봤다. 그는 작년까지 구글이 챗봇 기술을 적절하게 관리하고 있다고 봤지만, 마이크로소프트가 빙(Bing) 검색 엔진에 AI 챗봇을 통합해 구글이 검색 사업에 끼칠 위협을 우려하면서 생각이 바뀌었다고 언급했다.

관련기사

• 노벨 물리학상에 존 홉필드·제프리 힌튼…'머신러닝' 아버지
• ② AI 선구자 제프리 힌튼 교수 “딥러닝의 무한한 잠재력 확신"

BBC와 인터뷰에서 그는 AI 챗봇이 인간보다 더 똑똑해질 수 있고 ‘나쁜 행위자(bad actors)’에게 악용될 수 있어 위험하다고 지적했다. 그는 “자동으로 많은 텍스트를 생성할 수 있어 효율적인 스팸봇을 많이 만들 수 있다”며 “권위주의적인 지도자가 유권자를 조종하는 식의 일을 벌일 수 있다”고 경고했다. 그는 또 “우리가 개발하는 지능의 유형은 우리가 가진 것과 매우 다르다는 결론에 도달했다”며 “사람 만 명이 있고 한 명이 뭔가 배우면 모두가 자동으로 그걸 알게 되듯, 이런 챗봇이 (인간) 한 사람보다 훨씬 많은 걸 알 수 있다”고 덧붙였다.

2019년부터 마이크로소프트의 후원을 받는 오픈AI는 직접 초거대 AI 모델을 개발하고 이를 기반으로 작동하는 ‘챗GPT’라는 뛰어난 챗봇 서비스를 출시했다. 챗GPT는 작년 11월 말 출시돼 두 달 만에 월 이용자 1억명에 도달했다. 마이크로소프트는 오픈AI의 기술을 활용해 소비자용 인터넷 검색 서비스와 개인·기업용 오피스 프로그램, 윈도 운영체제 기능을 개선하고 있다.

강력한 AI 기술이 허위 정보를 양산하고 여론을 조작하는 데 악용될 수 있다는 우려가 커지면서 2017년 ‘아실로마 AI 원칙’을 발표한 미국 비영리단체 생명의미래연구소(FLI)가 전 세계 연구자에게 오픈AI의 GPT-4보다 더 뛰어난 첨단 AI 시스템 개발을 6개월 이상 중지해야 한다는 주장을 담은 공개서한을 발송했다. 이 서한에 일론 머스크 테슬라·트위터 최고경영자, 에마드 모스타크 스태빌리티AI 최고경영자, 제프리 힌튼과 함께 AI 선구자로 꼽히는 요슈아 벤지오, 스튜어트 러셀 등이 서명했다.

하지만 힌튼 박사는 AI가 인류에 대한 실존적 위협이 될 수 있다는 우려에 공감하면서도 연구 중단이라는 방법론에 동의하지 않았다. 로이터 보도에 따르면 그는 “(연구 중단은) 완전히 비현실적”이라면서 “저는 이것이 실존적 위협이며, 우리는 지금 당장 매우 열심히 일해 우리가 무엇을 할 수 있을지 알아내는 데 많은 자원을 쏟아부어야 할 만큼 (이 위협이) 충분히 가까이 있다고 생각하는 진영에 속한다”고 강조했다.