구글, AI 슈퍼컴퓨터 공개…"엔비디아보다 최대 1.7배 빨라"
2023-04-06 07:25
[사진=로이터·연합뉴스]
구글이 5일(현지시간) 인공지능(AI) 슈퍼컴퓨터 ‘TPU v4’를 공개했다. CNBC는 구글이 ‘TPU v4’가 엔비디아 시스템보다 훨씬 빠르고 효율적이라고 강조했다고 전했다.
엔비디아가 AI 모델 학습 시장을 90% 이상 장악하고 있는 가운데 구글은 지난 2016년부터 ‘텐서 프로세싱 유닛(Tensor Processing Units·TPU)'이라는 AI 칩을 설계하고 배포해왔다. 이번에 공개된 'TPU v4'에는 TPU칩이 4000개가 탑재됐다.
글로벌 기업 대부분은 AI를 훈련할 때 엔비디아의 슈퍼컴퓨터를 이용한다. 구글의 바드와 오픈AI의 챗GPT 등은 엔비디아의 A100칩이 탑재된 슈퍼컴퓨터를 통해 학습을 받았다.
구글은 지난 2020년부터 'TPU v4'를 운영했으며, 오픈AI의 GPT 모델과 경쟁하는 구글의 초대형 언어 모델 ‘PaLM’을 50일 동안 학습시키는 데 해당 슈퍼컴퓨터를 사용했다고 밝혔다.
구글 연구원들은 “TPU 기반 슈퍼컴퓨터인 'TPU v4'는 엔비디아의 A100보다 1.2~1.7배 더 빠르고, 1.3~1.9배 더 적은 전력을 사용한다”며 “성능, 확장성, 및 가용성 덕분에 TPU v4 슈퍼컴퓨터가 초대형 언어 모델의 주력 컴퓨터가 될 것”이라고 밝혔다. 다만, 엔비디아의 최신 AI칩인 H100과는 비교하지 않았다.
한편, 글로벌 AI 반도체 성능 테스트인 엠엘퍼프(MLperf)의 AI칩 테스트 결과가 이날 발표됐다. 젠슨 황 엔비디아 최고경영자(CEO)는 블로그를 통해 “엠엘퍼프 결과, H100이 A100보다 4배 높은 성능을 제공한다”고 강조했다.
엔비디아가 AI 모델 학습 시장을 90% 이상 장악하고 있는 가운데 구글은 지난 2016년부터 ‘텐서 프로세싱 유닛(Tensor Processing Units·TPU)'이라는 AI 칩을 설계하고 배포해왔다. 이번에 공개된 'TPU v4'에는 TPU칩이 4000개가 탑재됐다.
글로벌 기업 대부분은 AI를 훈련할 때 엔비디아의 슈퍼컴퓨터를 이용한다. 구글의 바드와 오픈AI의 챗GPT 등은 엔비디아의 A100칩이 탑재된 슈퍼컴퓨터를 통해 학습을 받았다.
구글은 지난 2020년부터 'TPU v4'를 운영했으며, 오픈AI의 GPT 모델과 경쟁하는 구글의 초대형 언어 모델 ‘PaLM’을 50일 동안 학습시키는 데 해당 슈퍼컴퓨터를 사용했다고 밝혔다.
구글 연구원들은 “TPU 기반 슈퍼컴퓨터인 'TPU v4'는 엔비디아의 A100보다 1.2~1.7배 더 빠르고, 1.3~1.9배 더 적은 전력을 사용한다”며 “성능, 확장성, 및 가용성 덕분에 TPU v4 슈퍼컴퓨터가 초대형 언어 모델의 주력 컴퓨터가 될 것”이라고 밝혔다. 다만, 엔비디아의 최신 AI칩인 H100과는 비교하지 않았다.
한편, 글로벌 AI 반도체 성능 테스트인 엠엘퍼프(MLperf)의 AI칩 테스트 결과가 이날 발표됐다. 젠슨 황 엔비디아 최고경영자(CEO)는 블로그를 통해 “엠엘퍼프 결과, H100이 A100보다 4배 높은 성능을 제공한다”고 강조했다.