'안전성 논란' 불거진 오픈AI, 올트먼 "충분히 안전"

2024-05-22 11:38
유명배우 요한슨 '음성모방'·수츠케버 퇴사 등 우려
올트먼 "충분히 안전"...논란에 대해선 '힘들다' 언급
지난해 '오픈AI 쿠데타' 당시에도 '안전성' 문제 지적 이어져

MS 빌드 행사에 나온 샘 올트먼 오픈AI 최고경영자(CEO) [사진=AFP·연합뉴스]


새 인공지능(AI) 모델에 대한 논란이 터져 나온 가운데 샘 올트먼 오픈AI 최고경영자(CEO)는 자사 모델의 안전성에는 문제가 없다고 밝혔다. 그는 지난해 이른바 '이사회 쿠데타'로 잠시 물러났을 때도 안전성 대신 수익성을 추구했다는 의혹이 일기도 했던 터라 향후 대응에 귀추가 주목된다.

올트먼 CEO는 21일(이하 현지시간) 워싱턴주 레드먼드에서 열린 마이크로소프트(MS) 연례 개발자 회의 '빌드'(Build)에 기습 등장했다. MS가 오픈AI의 대주주로 있기는 하지만 올트먼의 등장은 예상치 못한 것이었다. 그는 2시간 가량 진행된 이날 행사 말미의 게스트로 무대에 올라 케빈 스콧 MS 최고기술책임자(CTO)와 인공지능(AI) 관련 이야기를 나눴다.

이날 그는 앞으로 새로운 AI 모델이 가져올 기술적 부분에 대해서만 10분가량 소개했다. 올트먼은 "지금이야말로 적어도 휴대전화 이후, 아마도 인터넷 이후 가장 흥미진진한 시기"라며 "이렇게 빨리 의미 있게 적용된 기술은 지금까지 없을 것"이라고 말했다.

이어 그는 최근 오픈AI의 새로운 AI 모델에 대해 불거진 안전성 의혹과 관련해 문제가 없다는 취지로 발언했다. 그는 "앞으로 해야 할 일이 더 많다"면서도 "GPT-4는 다양한 용도로 사용할 수 있을 만큼 충분히 안전하다"고 말했다. 그는 오픈AI 창업 초기보다 AI모델을 허용 가능한 수준의 안전성을 유지하기 위한 여러 작업을 했다고 평가했다.

올트먼의 발언은 최근 오픈AI의 새 멀티 모달(텍스트뿐 아니라 이미지, 오디오 등 다양한 형태로 소통할 수 있는 기능) AI 모델 GPT-4o(포오)를 둘러싼 논란이 나온 상황에서 눈길을 끌었다. GPT-4o의 음성비서 모델 중 '스카이(Sky)'의 음성이 2013년 개봉된 영화 '그녀'(her)의 AI를 연기한 스칼렛 요한슨의 목소리를 모방했다는 지적이 나왔다. 오픈AI 측은 다른 전문 배우의 목소리라고 해명했으나, 요한슨 측은 법적 대응에 나서겠다고 나서면서 파장이 커지고 있다.

요한슨은 올트먼이 지난해 9월과 GPT-4o 발표 이틀 전 본인에게 목소리 대역을 맡아 달라고 요청했다고 20일 CNBC 인터뷰에서 털어놨다. 그는 고민 끝에 올트먼의 제안을 거절했으나 결국 새 모델에 본인 음성을 무단 사용했다며 "충격과 분노를 느꼈다"고 전했다. 올트먼은 이날 이 논란에 대해선 직접 언급 대신 힘든 한 주를 보냈다는 취지의 짧은 반응을 보였다.

오픈AI는 이 논란과 더불어 안전성 시비에 휩싸이고 있다. 최근 들려온 공동 창립자 일리야 수츠케버의 퇴사와 AI 안전성 전담 팀 해체 소식은 우려를 더욱 키우고 있다. 해당 팀에서 사임한 젠 레이크는 퇴사와 관련해 소셜미디어 엑스에 글을 올리고, 자신은 오픈AI 리더십의 '핵심 우선순위'에 동의하지 않고 회사 내 의견 대립이 한계점에 도달했다고 털어놨다.

이러한 일련의 사건 중에 올트먼은 거듭 '안전성'에 신경쓰는 모습을 보이고 있다. 그는 젠 레이크 사임 뒤 엑스에 "우리는 안전성 확보를 위해 최선을 다하고 있다"고 강조하기도 했다. 그는 지난해부터 계속된 AI 안전성 우려를 일축하려는 모습이다. 지난해 11월 올트먼은 CEO 자리에서 축출됐다가 5일 만에 복귀했는데, 당시 수익성을 우선시 하는 올트먼 등 AI 낙관론자와 안전성을 우선시 하는 수츠케버 등 규제론자의 충돌 가능성이 거론되기도 했다.