[삼성전자 주총] 자체 AI 가속기 '마하-1' 개발 '깜짝 공개'
2024-03-20 17:24
GPU-메모리 간 병목현상 8분의1 줄여
"저전력 메모리로 LLM 추론… 내년 출시"
"저전력 메모리로 LLM 추론… 내년 출시"
경계현 삼성전자 사장(DS부문장)은 경기 수원시 수원컨벤션센터에서 진행된 '제55기 정기 주주총회'에서 "반도체는 메모리 등 기존 사업만으로는 장기적으로 1등을 유지할 수 없다"며 "AI 반도체 '마하(Mach)-1'을 개발하고 있다고 밝혔다.
앞서 삼성전자는 미국 실리콘밸리에 범용인공지능(AGI) 컴퓨팅 랩을 신설하고 관련 칩 개발을 시작했다. 개발 중인 칩 명칭과 성능이 공개된 것은 이번이 처음이다.
마하-1이 어떤 형태로 나올지는 공개되지 않았지만 그래픽처리장치(GPU)와 메모리 사이에서 나타나는 연산 '병목 현상'을 줄여주는 일종의 반도체 솔루션이 될 전망이다. 경 사장은 마하-1이 여러 알고리즘을 사용해 병목 현상을 8분의 1까지 줄일 수 있다고 설명했다.
경 사장은 "저전력 메모리로도 거대언어모델(LLM)에 추론이 가능하도록 마하-1을 준비 중"이라며 "내년 초면 저희 칩으로 만든 AI 시스템을 볼 수 있을 것"이라고 말했다. 업계에서는 삼성전자가 마하-1 AI 칩 개발을 위해 네이버와 협력한 것으로 전해진다.
경 사장은 최근 본인 사회관계망서비스(SNS)를 통해 "미래 AGI의 엄청난 처리 수요를 충족하기 위해 특별히 설계된 완전히 새로운 유형의 반도체를 만들기 위해 노력할 것"이라며 "AGI 컴퓨팅랩은 추론과 서비스 애플리케이션에 초점을 두고 LLM용 칩 개발에 집중할 것"이라고 밝힌 바 있다.
경쟁사에 밀린다는 평가를 받고 있는 고대역폭메모리(HBM)도 12단을 쌓은 HBM을 기반으로 HBM3와 HBM3E 시장 주도권을 찾는다는 계획이다.
삼성전자뿐만 아니라 계열사도 AI 시장 주도권 확보에 동참하고 있다.
이날 장덕현 삼성전기 사장은 '제51기 삼성전기 정기 주주총회'에서 "AI용 플립칩볼그리드어레이(FC-BGA)를 올해 하반기부터 양산할 계획"이라고 밝혔다.
이어 "고객들과 조율은 마쳤다"며 "FC-BGA 사업은 기존 PC 영역에서 서버로, 그중에서도 AI 서버 중심으로 옮겨 진행 중"이라고 말했다.
FC-BGA는 고성능 반도체인 서버용 중앙처리장치(CPU)와 GPU 등에 적용되는 고집적 반도체 패키지 부품이다. 반도체 칩과 패키지 기판을 '플립칩 방식'으로 연결해 전기와 열적 특성을 향상시켰다.
삼성전기는 AI 반도체 열풍으로 반도체 기판 수요도 덩달아 증가하면서 AI를 중점 추진 분야로 점찍었다. AI 관련 매출을 매년 2배 이상 성장시킨다는 계획이다.