삼성전자는 세계 최초로 차세대 AI 가속기의 핵심이 될 ‘HBM4E 12단’ 샘플을 글로벌 고객사에 전격 공급했다.

지난 2월, 업계 최고 속도를 구현한 HBM4 양산 출하에 성공하며 시장의 이정표를 세운 데 이어, 불과 수개월 만에 차세대 HBM4E 공급까지 개시하며 고대역폭 메모리 시장의 절대적 기술 리더십을 다시 한번 증명했다.

특히 이번 HBM4E 공급은 단순한 제품 라인업 확대를 넘어, 향후 수년간 폭발적으로 성장할 글로벌 AI 인프라 시장에서 삼성전자의 독보적인 공급 역량과 기술적 우위를 확고히 하는 계기가 될 것으로 기대된다.

삼성전자의 HBM4E는 설계 및 공정 최적화를 통해 독보적인 스펙을 구현했다. 핀당 동작 속도는 14Gbps에서 최대 16Gbps까지 지원하며, 이는 전작 HBM4 대비 20% 이상 대폭 향상된 수치이다.

* Gbps(Gigabit per second): 1초당 전송되는 기가비트 단위의 데이터

또한, 단일 스택 기준 초당 3.6TB(테라바이트)의 대역폭을 제공함으로써 대규모 언어 모델(LLM) 및 차세대 AI 시스템의 연산 속도를 극대화했다.

용량 측면에서도 개선됐다. HBM4E 12단 제품은 48GB(기가바이트)의 고용량을 구현하여 전작 대비 용량을 30% 이상 늘렸으며, 향후 고객사의 다양한 서비스 환경에 맞춰 32GB(8단), 64GB(16단)까지 라인업을 빈틈없이 확대해 나갈 계획이다.

이번 제품의 가장 큰 차별점은 삼성전자가 보유한 메커니즘의 완벽한 조화에 있다.

전작 HBM4에서 이미 검증된 최선단 공정 기반의 1c(10나노급 6세대) D램과 자체 Foundry 4나노 로직 다이(Die)를 적용했는데, 이를 통해 초미세 공정의 안정성을 극대화하는 동시에 수율과 양산성을 확보, 경쟁사들이 쉽게 따라올 수 없는 압도적인 진입장벽을 구축한 것으로 평가받는다.

또한, 저전력 설계 및 패키징 구조 최적화 기술을 집약해 전작 대비 에너지 효율은 16%, 열 저항 특성은 14% 이상 크게 개선했다.

고부하 AI 연산 환경에서 치명적인 발열 문제를 완벽히 해결함으로써 제품의 장기 신뢰성을 보장하고, 글로벌 데이터센터의 전력 소모 절감에도 획기적인 솔루션을 제공하는 셈이다.

삼성전자는 이번 샘플 공급을 시작으로 고객 일정에 맞춰 양산 공급할 예정이다.

삼성전자는 메모리, Foundry, 시스템LSI, 그리고 첨단 패키징까지 모두 아우르는 세계 유일의 ‘원스톱(One-Stop) 턴키 솔루션’을 기반으로 공급 안정성을 결함 없이 확보해 나갈 방침이다.

삼성전자 메모리사업부 개발담당 황상준 부사장은 “HBM4 양산 성공에 이어 차세대 HBM4E 샘플 공급까지 차질 없이 완수하며 삼성전자의 독보적인 기술 리더십을 시장에 확실히 각인시켰다”며, “앞으로도 압도적인 기술 초격차와 선제적인 생산 인프라 투자를 바탕으로 글로벌 AI 메모리 시장의 성장을 강력하게 주도할 것”이라고 강조했다.

한편, 삼성전자는 지난 2월 세계 최초로 양산 출하한 HBM4도 양산 공급 확대 중이다.

글로벌 고객사들은 삼성 HBM4에 대해 속도와 전력 효율 측면에서 긍정적인 평가를 내놓고 있다. 지난해 12월 삼성전자 HBM4는 최종 인증 단계인 SiP(System in Package) 테스트에서 11.7Gbps의 업계 최고 수준 속도를 입증하며 최고 등급 평가를 받았다.

HBM4E와 동일한 1c D램과 4나노 베이스 다이 조합이 적용된 HBM4가 양산되고 있다는 점에서, 이번에 출하한 HBM4E 역시 양산 전환 가능성이 높다는 평가가 나오고 있다.

삼성전자는 이번 전시에서 ‘HBM4 Hero Wall’을 통해 HBM4부터 핵심 경쟁력으로 떠오른 ▲메모리 ▲로직 설계 ▲Foundry ▲첨단 패키징을 아우르는 종합반도체 기업(IDM)만의 강점을 부각했으며, ‘Nvidia Gallery’를 통해서는 AI 플랫폼을 함께 완성해 나가는 양사의 전략적 파트너십을 강조했다.

이 외에도 삼성전자는 전시 공간을 ▲AI Factories(AI Data Center) ▲Local AI(0n-device AI) ▲Physical AI 세 개의 존으로 구성해, 기술력을 공식적으로 인정받은 GDDR7, LPDDR6, PM9E1 등 차세대 삼성 메모리 아키텍처를 소개했다.

한편 행사 둘째 날인 3월 17일(현지시간)에는 엔비디아의 특별 초청으로 송용호 삼성전자 AI센터장이 발표에 나서 AI 인프라 혁신을 이끌 엔비디아 차세대 시스템의 중요성과 이를 지원하는 삼성의 메모리 토털 솔루션 비전을 제시한다.

이를 통해 양사의 협력이 단순한 기술 협력을 넘어 AI 인프라 전반으로 확대되고 있음을 보여줄 예정이다.

1c D램·Foundry 4나노 기반 HBM4E 칩과 코어 다이 웨이퍼 최초 공개

삼성전자는 이번 전시에서 ‘HBM4 Hero Wall’을 마련해 삼성의 HBM 기술 리더십을 가장 먼저 조명할 수 있도록 전시 동선을 구성했다.

삼성전자는 HBM4 양산을 통해 축적한 1c D램 공정 기반의 기술 경쟁력과 삼성 Foundry 4나노 베이스 다이 설계 역량을 바탕으로 차세대 HBM4E 개발을 가속화하고 있으며, HBM4E 실물 칩과 코어 다이 웨이퍼를 최초로 공개했다.

삼성전자 HBM4E는 메모리, 자체 Foundry와 로직 설계 역량, 그리고 첨단 패키징 기술 등 부문 내 모든 역량을 결집한 최적화 협업을 통해 핀당 16Gbps 속도와 4.0TB/s 대역폭을 지원할 예정이다.

또한 삼성전자는 영상을 통해 TCB(Thermal Compression Bonding) 대비 열 저항을 20% 이상 개선하고 16단 이상 고적층을 지원하는 HCB(Hybrid Copper Bonding) 기술을 공개하며, 차세대 HBM을 위한 삼성전자의 패키징 기술 경쟁력을 강조했다.

*TCB(Thermal Compression Bonding): 열과 압력을 이용해 칩과 칩을 접합하는 반도체 패키징 기술로, HBM 적층 구조 구현에 사용되는 대표적인 본딩 방식

*HCB(Hybrid Copper Bonding): 구리(Copper) 접합을 기반으로 칩을 직접 연결하는 차세대 패키징 기술로, 열 저항을 낮추고 고적층 HBM 구현에 유리한 본딩 방식

한편 삼성전자는 Vera Rubin 플랫폼에 탑재될 HBM4 칩과 Foundry 4나노 베이스 다이 웨이퍼를 전면에 배치해, 차세대 칩을 구현하는 삼성의 HBM 라인업을 한눈에 확인할 수 있도록 전시를 구성했다.

삼성전자는 종합반도체 기업(IDM)만의 토털 솔루션을 통해 개발 효율을 강화하여 고성능 HBM 시대에서도 성능과 품질을 압도하는 기술 선순환 구조를 구축할 계획이다.

삼성전자, Vera Rubin 플랫폼용 메모리 토털 솔루션 유일하게 공급

특히 삼성전자는 이번 전시를 통해 전 세계에서 유일하게 엔비디아 Vera Rubin 플랫폼의 모든 메모리와 스토리지를 적기에 공급할 수 있는 메모리 토털 솔루션 역량을 부각했다.

삼성전자는 ‘Nvidia Gallery’를 별도로 구성해 ▲Rubin GPU용 HBM4 ▲Vera CPU용 SOCAMM2 ▲스토리지 PM1763을 Vera Rubin 플랫폼과 함께 전시하여, 양사의 협력을 강조했다.

삼성전자 SOCAMM2는 LPDDR 기반 서버용 메모리 모듈로 품질 검증을 완료하고 업계 최초로 양산 출하를 시작했다.

삼성전자 PCIe Gen6 기반 서버용 SSD PM1763은 Vera Rubin 플랫폼의 메인 스토리지로, 삼성전자는 부스 내에서 PM1763이 탑재된 서버를 통해 엔비디아 SCADA 워크로드를 직접 시연해 사양 소개를 넘어 업계 최고 수준의 성능을 현장에서 체감할 수 있도록 했다.

*SCADA(SCaled Accelerated Data Access): GPU가 CPU 병목 현상을 우회해 스토리지 I/O를 직접 시작하고 제어할 수 있어 AI 워크로드 성능을 극대화할 수 있도록 설계된 기술

뿐만 아니라 삼성전자는 추론 성능과 전력 효율 개선을 위해 Vera Rubin 플랫폼에 새롭게 도입된 CMX(Context Memory eXtension) 플랫폼에 PCIe Gen5 기반 서버용 SSD PM1753을 공급할 계획이며, 부스 내 AI Factories
존에서 제품을 확인할 수 있다.

*CMX(Context Memory eXtension): AI 추론 과정에서 생성되는 KV Cache 데이터를 GPU 메모리 밖의 스토리지로 확장해 활용하는 메모리 확장 기술

AI Factory 혁신을 위해서는 Vera Rubin 플랫폼과 같은 강력한 AI 시스템이 필수적이며, 삼성전자는 이를 지원하는 고성능 메모리 솔루션을지속적으로 공급해 나갈 예정이다.

양사는 이러한 협력을 바탕으로 글로벌 AI 인프라 패러다임 전환을 함께 이끌어 갈 것이다.