삼성전자가 인공지능 시대에 필요한 차세대 D램과 데이터 상호연결(Interconnect) 기술 청사진을 공개했다. 이를 통해 HBM(고대역폭 메모리) D램 리더십을 되찾고, 중앙처리장치(CPU)·그래픽처리장치(GPU)·D램 간 상호연결 속도를 극적으로 끌어올려 초거대 AI 운영을 위한 슈퍼컴퓨터(HPC)와 클라우드 장비 시장 주도권을 쥐려는 것으로 풀이된다.

26일(현지시간) 삼성전자는 미국 캘리포니아주 마운틴뷰에서 열린 글로벌 반도체 학회 '멤콘(MemCon) 2024'에서 AI 시대를 이끌 차세대 메모리 솔루션을 대거 공개했다.

최진혁 삼성전자 미주 메모리연구소장(DSRA-Memory·부사장)과 황상준 D램 개발실장(부사장)은 키노트(기조연설)를 통해 "AI 시대를 맞이해 CXL(컴퓨트익스프레스링크) 기반 메모리와 고성능·고용량의 HBM 솔루션이 메모리 업계 혁신을 주도하고 있다"고 말했다.

그러면서 "삼성전자는 메모리 용량 측면에선 CXL, 대역폭(시간당 전송할 수 있는 데이터 양) 측면에선 HBM 기술이 미래 AI 시대를 주도할 것으로 본다"고 덧붙였다.

CXL은 시스템 반도체와 메모리, 또는 메모리와 메모리를 바로(다이렉트) 연결해 다수의 반도체를 하나의 반도체인 것처럼 활용할 수 있게 해주는 차세대 입출력(I/O) 기술이다. 기존 입출력 기술인 PCI익스프레스는 초거대 AI 운영에 필요한 막대한 데이터를 하드웨어 시스템 내에서 주고받을 때 데이터 병목현상이 발생했으나, CXL을 도입하면 이러한 병목현상을 줄여 초거대 AI의 규모를 키우고 답변 속도를 끌어올릴 것으로 기대된다. 

실제로 최 부사장은 이날 키노트에서 CXL 기반 삼성전자의 다양한 혁신 솔루션을 발표했다. D램을 직접 연결하는 CMM(CXL Memory Module)-D(DRAM) 기술과 함께 낸드 플래시(SSD)와 메모리를 직접 연결하는 CMM-H(Hybrid), 메모리 풀링(할당) 솔루션인 CMM-B(Box) 등을 대거 공개했다.

특히 CXL 메모리 풀링은 여러 대의 서버에서 사용하는 메모리를 하나로 묶어서 관리하는 기술로, 메모리 자원을 효율적으로 관리할 수 있고 시스템 안정성을 높일 수 있어 미래 슈퍼컴퓨터 구축에 필수 기술로 떠오르고 있다고 삼성전자 측은 강조했다. 

최 부사장은 "삼성전자의 다양한 CXL 솔루션으로 파트너들이 메모리 용량과 대역폭을 향상하고 있다"며 "지속적인 기술 혁신과 파트너와 협력을 통해 AI 시대 반도체 발전을 이끌겠다"고 포부를 드러냈다. 여기서 파트너란 AI·클라우드 사업을 영위하는 글로벌 빅테크를 말하는 것으로 풀이된다.

이어 황 부사장이 삼성전자 D램과 HBM 솔루션 기술 개발 현황과 미래 리더십 확보에 관해 설명했다. 

그는 "현재 삼성전자가 양산하고 있는 3·4세대 HBM(HBM2E, HBM3)에 이어 12단 5세대 HBM(HBM3E)과 128GB 용량의 DDR5 D램을 올 상반기 양산할 것"이라며 "향후 양산할 6세대 HBM(HBM4)에는 버퍼 다이(Buffer Die, 버퍼 없는) 로직 공정을 도입해 AI 반도체 수요 급증에 대응하겠다"고 말했다. HBM에 버퍼 다이 로직 공정을 도입함으로써 삼성전자는 전력효율성을 40% 향상하고, 지연속도(레이턴시)를 10% 낮출 수 있을 것으로 기대하고 있다.

한편 삼성전자는 엔비디아 반도체 컨퍼런스 GTC 2024에 이어 멤콘 2024에서도 12단 5세대 HBM 실물을 시연하며 양산 준비를 마쳤음을 강조했다.