이재용 부회장이 복귀한 이후 ‘반도체 비전 2030’에 속도를 내고 있는 삼성전자가 인공지능(AI) 엔진을 탑재한 메모리 반도체 제품군 확대에 박차를 가하고 있다. 삼성전자는 메모리와 시스템반도체의 융복합화를 주도하며 다양한 글로벌 기업들과 협력을 통해 차세대 메모리 반도체 생태계를 빠르게 확대해 나갈 계획이다.

삼성전자는 24일 온라인으로 개최된 차세대 반도체 기술 학회인 핫 칩스(Hot Chips) 학회에서 지난 2월 업계 최초로 개발한 HBM-PIM뿐만 아니라 PIM 기술을 적용한 다양한 제품군과 응용사례를 소개했다.
 
삼성전자는 이날 학회에서 D램 모듈에 AI엔진을 탑재한 'AXDIMM(Acceleration DIMM)', 모바일 D램과 PIM을 결합한 'LPDDR5-PIM' 기술, HBM-PIM의 실제 시스템 적용 사례를 각각 소개했다.

AXDIMM은 PIM 기술을 칩단위에서 모듈단위로 확장한 것으로 D램 모듈에 인공지능 엔진을 장착한 제품이다. D램 모듈의 동작 단위인 각 랭크(Rank : DRAM 모듈의 데이터 한 블록)에 AI엔진을 탑재하고 병렬 처리를 극대화해 성능을 높인다. 또 AI엔진을 통해 D램 모듈 내부에서 연산이 가능해져 CPU와 D램 모듈 간의 데이터 이동이 줄어들어 AI 가속기 시스템의 에너지 효율을 높일 수 있다. 

또한 기존 D램 모듈에 탑재된 버퍼칩에 AI엔진을 탑재하는 방식으로 기존 시스템 변경 없이 적용이 가능하다. 현재 AXDIMM은 글로벌 고객사들의 서버 환경에서 성능 평가를 진행 중이며, 성능은 약 2배 향상, 시스템 에너지는 40% 이상 감소가 확인됐다.

삼성전자는 초고속 데이터 분석 영역뿐만 아니라 모바일 분야까지 PIM을 확대 적용한 'LPDDR5-PIM' 기술도 공개했다. PIM 기술이 모바일 D램과 결합할 경우 데이터센터와 연결 없이 휴대폰 독자적으로 AI 기능을 수행할 수 있는 온-디바이스 AI(On-Device AI)의 성능과 에너지 문제를 효과적으로 해결할 수 있을 것으로 예상된다. 이번 시뮬레이션 결과 음성 인식, 번역, 챗봇 등에서 2배 이상의 성능 향상과 60% 이상의 에너지 감소가 확인됐다.

삼성전자는 지난 2월 공개한 HBM-PIM을 실제 시스템에 탑재한 검증 결과도 이번 학회에서 발표했다. FPGA 개발 업체인 미국 자일링스(Xilinx)에서 이미 상용화 중인 AI 가속기 시스템에 HBM-PIM을 탑재했을 경우, 기존 HBM2를 이용한 시스템 대비 성능은 약 2.5배 높아지고, 시스템 에너지는 60% 이상 감소됨을 공개하며 참석자들로부터 큰 관심을 받았다.

삼성전자는 PIM이라는 혁신 기술을 D램 공정에 접목시켜 다양한 응용처에서 실제 성능과 에너지 효율이 대폭 향상됐다고 강조했다. 또한 PIM 기술이 빅데이터 시대의 새로운 메모리 패러다임이 될 것이라고 밝혔다.

김남승 삼성전자 메모리사업부 DRAM 개발실 전무는 “HBM-PIM은 업계 최초의 인공지능 분야 맞춤형 메모리 솔루션으로, 이미 고객사들의 AI 가속기에 탑재돼 평가 중이며 상업적 성공의 가능성을 보였다”며 “향후 표준화 과정을 거쳐 차세대 슈퍼컴퓨터 및 인공지능용 HBM3, On-Device AI용 모바일 메모리 및 데이터센터용 D램 모듈로 확장할 예정”이라고 밝혔다.

자일링스의 상품기획 시니어 디렉터 아룬 바라다라잔 라자고팔은 “인공지능 응용 분야에서 HBM-PIM의 성능과 에너지 효율 향상을 위한 시스템 평가를 위해 삼성전자와 지속적으로 협력할 것”이라고 밝혔다.

기업용 소프트웨어 업체인 SAP의 하나 코어 리서치 앤드 이노베이션(HANA core research & innovation) 총괄 올리버 레볼츠는 “AXDIMM을 활용한 시스템의 성능 예측 평가에서 성능 향상과 높은 에너지 효율이 기대된다”며 “SAP는 인메모리 데이터베이스 플랫폼 'SAP-HANA' 의 성능 향상을 위해 삼성전자와 협력을 지속할 것”이라고 밝혔다.

삼성전자는 내년 상반기 내 다양한 고객사들의 AI 가속기를 위한 PIM 기술 플랫폼의 표준화와 에코 시스템 구축을 완료, 인공지능 메모리 시장을 확대해 나갈 예정이다.