^{* CXL(Compute Express Link): 고성능 서버 시스템에서 CPU와 함께 사용되는 ▲가속기 ▲D램 ▲저장장치 등을 보다 효율적으로 활용하기 위한 차세대 인터페이스}

▲ 삼성전자와 레드햇 각 사 로고

삼성전자는 이를 통해 CXL 관련 제품부터 소프트웨어까지 서버 전 구성 요소를 화성캠퍼스에 위치한 삼성 메모리 리서치 센터(SMRC)에서 검증할 수 있게 됐다.

^{* SMRC(Samsung Memory Research Center): 삼성전자의 메모리 제품을 탑재한 고객사가 자사 서버의 하드웨어와 소프트웨어의 최적 조합을 분석하고 성능을 평가할 수 있는 리서치 센터}

삼성전자는 이달 업계 최초로 CMM-D 제품 레드햇 인증에 성공했으며, 이는 이번 인프라 확보로 이뤄낸 첫 성과이다.

^{* CMM-D(CXL Memory Module – DRAM): 삼성전자의 최신 CXL 확장 메모리 디바이스}

CXL 제품 인증을 내부에서 자체 완료한 후 레드햇 등록 절차를 즉시 진행할 수 있어 신속한 제품 개발이 가능해졌으며, 고객들과 개발단계부터 제품 최적화를 진행해 맞춤 솔루션을 제공할 수 있게 됐다.

인증 제품을 사용하는 고객들은 레드햇으로부터 유지·보수 서비스를 받을 수 있어 신뢰성 높은 시스템을 더욱 편리하게 구축 가능하다.

이외에도 고객들은 ▲하드웨어 안정성 보장 ▲리눅스 호환성 보증 ▲전문적인 지원 등을 제공받을 수 있다.

삼성전자와 레드햇은 하드웨어에 이어 소프트웨어 기술까지 협력하며 CXL 생태계를 선도하고 있다.

삼성전자는 지난 5월 미국 덴버에서 진행된 ‘레드햇 서밋 2024’에서 기업용 리눅스 OS인 ‘레드햇 엔터프라이즈 리눅스 9.3 (Red Hat Enterprise Linux 9.3)’ 기반 서버에 CMM-D를 탑재해 딥러닝 기반 추천 모델(DLRM) 성능을 향상시키는 시연을 진행했다.

^{* Red Hat Enterprise Linux 9.3: 레드햇의 최신 서버용 운영체제(OS)* DLRM(Deep Learning Recommendation Models): 영화, 외식 등 빅데이터 기반 추천을 위한 AI 소프트웨어}

해당 시연에는 SMDK의 메모리 인터리빙 기술로 차세대 솔루션인 CXL 메모리 동작을 최적화해 메모리 용량과 성능을 모두 높였다.

^{* SMDK(Scalable Memory Development Kit): 차세대 이종 메모리 시스템 환경에서 기존에 탑재된 메인 메모리와 CXL 메모리가 최적으로 동작하도록 도와주는 오픈소스 소프트웨어 개발 도구로 API, 라이브러리 등으로 구성됨* 메모리 인터리빙(Memory Interleaving): 복수의 메모리 모듈에 동시에 접근해 데이터 전송속도를 향상하는 기술}

이를 바탕으로 빠른 데이터 처리와 AI 학습·추론 가속화가 가능해 고객은 추가 시설 투자 없이 더욱 뛰어난 성능의 AI 모델을 구현할 수 있다.

삼성전자와 레드햇은 CXL 메모리 생태계 확장과 새로운 기술 표준 제시를 목표로 파트너십을 강화해 다양한 사용자 시스템에 적합한 고객 솔루션을 제공할 계획이다.

삼성전자 메모리사업부 DRAM 솔루션팀 송택상 상무는 “이번 레드햇과의 협업으로 고객들에게 더욱 신뢰성 높은 CXL 메모리 제품을 제공할 수 있게 되어 매우 기쁘다”며, “하드웨어와 소프트웨어를 아우르는 양사 간의 지속적인 협업을 통해 혁신적인 메모리 솔루션 개발과 CXL 생태계 발전에 앞장설 것”이라고 전했다.

레드햇 코리아 김경상 대표는 “삼성전자와 레드햇의 협력은 CMM-D와 같은 차세대 메모리 솔루션 확장에 오픈소스 기술이 중요함을 보여준다”며, “양사는 CXL 솔루션의 시장 확대를 위해 지속 협력할 것”이라 밝혔다.

향후 삼성전자는 이번 인프라 확보를 바탕으로 AI 시대에 걸맞은 다양한 제품을 선보이며 기술 리더십을 공고히 할 계획이다.

▲ 삼성전자 화성캠퍼스 자체 연구시설인 SMRC에 구축한 레드햇 인증 CXL 인프라

글로벌 반도체 학회 ‘MemCon 2024’는 AI 시대에 걸맞은 미래 메모리 솔루션에 대해 깊이 있게 다루는 장으로 다양한 글로벌 IT 기업들이 참여했다.

삼성전자는 이번 ‘MemCon 2024’에서 미래 컴퓨팅 패러다임의 초석, HBM과 CXL 솔루션에 대해 발표하고 업계 리더로서의 비전을 공유했다. HBM은 AI에 필요한 필수적인 속도와 극한의 대역폭을 제공하며, CXL은 여러 개의 인터페이스를 하나로 통합해 용량과 대역폭을 확장시킨다.

메모리 기술 혁신 없이는 인공지능 발전이 계속될 수 없다

삼성전자는 1992년부터 30년 이상 메모리 제품 기술 분야에서의 리더십을 바탕으로 선제적인 투자를 했으며, 이를 바탕으로 적시에 최고 품질의 제품을 공급해왔다.

최근 몇 년 메모리 시장 침체에도 불구하고 삼성전자는 기술 개발과 시설 투자에 자원을 아끼지 않았으며, 작년 D램 41%, 낸드플래시 32%의 시장 점유율을 기록하는 등 메모리 시장에서 굳건한 리더십을 이어가고 있다.

AI 기술 성장에는 메모리 반도체의 발전이 필수적이다. 시스템 고성능화를 위한 고대역폭, 저전력 메모리는 물론 새로운 인터페이스와 적층 기술도 요구되고 있다.

삼성전자는 D램 기술 초격차 유지를 위해 10nm 이하 D램에 수직 채널 트랜지스터(VCT, Vertical Channel Transistor)를 활용하는 새로운 구조에 대한 선제적인 연구 개발을 진행하고 있으며, 2030년 3D D램 상용화에 나설 계획이다.

삼성전자, AI 시대의 메모리 솔루션 준비 현황

2024년 하반기는 HBM 공급 개선으로 AI 서버 확산이 가속화될 뿐만 아니라, Conventional 서버와 스토리지 수요도 증가하는 선순환이 뚜렷하게 나타날 것으로 예상된다.

삼성전자는 2016년 업계 최초로 고성능 컴퓨팅(HPC)용 HBM 사업화를 시작하며, AI용 메모리 시장을 본격적으로 개척했고, 2016년부터 2024년까지 예상되는 총 HBM 매출은 100억 불이 넘을 것으로 전망된다.

삼성전자는 HBM3E 8단 제품에 대해 지난달부터 양산에 들어갔으며, 업계 내 고용량 제품에 대한 고객 니즈 증가세에 발맞추어 업계 최초로 개발한 12단 제품도 2분기 내 양산할 예정으로 Ramp-up 또한 가속화할 계획이다.

앞으로 삼성전자는 성장하는 생성형 AI용 수요 대응을 위해 HBM 캐파 확대와 함께 공급을 지속 늘려나갈 것이다.

한편 온디바이스 AI(On-Device AI) 관련 제품 또한 확대 중이다. PC·노트북 D램 시장의 판도를 바꿀 LPCAMM2를 2023년 9월 업계 최초로 개발했고, 기존 LPDDR 대비 고대역폭을 가지고 있어 기기에서 생성되는 데이터를 실시간으로 처리할 수 있는 LLW(Low Latency Wide I/O)를 개발 중에 있다.

또한 기존 D램과 공존하며 시스템 내 대역폭과 용량을 확장할 수 있는 CMM-D는 거대 데이터 처리가 요구되는 차세대 컴퓨팅 시장에서 주목받을 것으로 예상되며, 삼성전자는 CXL 메모리 생태계 구축을 위해 제품 개발 및 사업 협력을 선도하고 있다.

이 밖에도 미래 AI 시대를 대비하기 위해 컴퓨테이셔널 메모리(Computational Memory), 첨단 패키지(Advanced Package) 기술 등을 통해 새로운 솔루션 발굴을 추진하고 있다.

고객 맞춤형으로 진화하는 차세대 HBM

최근 HBM에는 맞춤형(Custom) HBM이라는 표현이 붙기 시작했다. 이는 AI 반도체 시장에서 메모리 반도체가 더 이상 범용 제품이 아니라는 것을 의미한다고 볼 수 있다.

삼성전자는 고객별로 최적화된 ‘맞춤형 HBM’ 제품으로 주요 고객사들의 수요를 충족시킬 계획이다. HBM 제품은 D램 셀을 사용하여 만든 코어 다이와 SoC와의 인터페이스를 위한 버퍼 다이로 구성되는데, 고객들은 버퍼 다이 영역에 대해 맞춤형 IP 설계를 요청할 수 있다.

이는 HBM 개발 및 공급을 위한 비즈니스 계획에서부터 D램 셀 개발, 로직 설계, 패키징 및 품질 검증에 이르기까지 모든 분야에서 차별화 및 최적화가 주요 경쟁 요인이 될 것임을 의미한다.

차세대 HBM 초격차를 위해 종합 반도체 역량 활용

변화무쌍한 AI 시대에서 고객들이 원하는 시스템 디자인을 완벽히 이해하고, 미래 기술 환경까지 고려해 시스템의 발전을 예측하고 주도하기 위해서는 종합 반도체 역량을 십분 활용해야 한다.

삼성전자는 차세대 HBM 초격차 달성을 위해 메모리뿐만 아니라 파운드리, 시스템LSI, AVP의 차별화된 사업부 역량과 리소스를 총 집결해 경계를 뛰어넘는 차세대 혁신을 주도해 나갈 계획이다.

이를 위해 삼성전자는 올 초부터 각 사업부의 우수 엔지니어들을 한데 모아 차세대 HBM 전담팀을 구성해 맞춤형 HBM 최적화를 위한 연구 및 개발에 박차를 가하고 있다.

삼성전자는 업계에서 단시간에 따라올 수 없는 종합 반도체 역량을 바탕으로 AI 시대에 걸맞은 최적의 솔루션을 지속적으로 선보일 예정이다.

CXL은 ▲생성형 AI ▲자율주행 ▲인메모리 데이터베이스 플랫폼 등 처리해야 할 데이터 양이 기하급수적으로 증가하면서 주목 받고 있는 차세대 기술로, 빠르고 효율적인 데이터 처리에 유용하다.

또한, CXL은 ▲CPU ▲GPU 등 다양한 프로세서와 메모리를 연결하는 PCIe 기반의 통합 인터페이스 표준으로, 데이터 처리 지연과 속도 저하, 메모리 확장 제한 등 여러 난제를 해결할 수 있는 차세대 기술이다.
^{* PCIe(Peripheral Component Interconnect Express): 기존 SATA(Serial Advanced Technology Attachment) 전송 속도의 성능 한계를 극복한 고속 인터페이스 규격}

삼성전자는 기업용 리눅스 OS인 ‘레드햇 엔터프라이즈 리눅스(Red Hat Enterprise Linux 9.3,이하 RHEL 9.3)’에 CXL 메모리를 최적화하고 ▲가상 머신(Red Hat KVM) ▲컨테이너 환경(Red Hat Podman)에서 메모리 인식, 읽기, 쓰기 등의 동작 검증을 완료했다.
^{* Red Hat Enterprise Linux 9.3: 레드햇의 최신 서버용 운영체제(OS)* 가상 머신(Virtual Machine, VM): 컴퓨팅 환경을 소프트웨어로 구현한 것으로, 컴퓨터 시스템을 에뮬레이션(가상현실화)하는 소프트웨어* 컨테이너(Container): 어플리케이션을 인프라 환경에 구애 받지 않고 구동시킬 수 있는 가상화 기술기}

CXL 메모리 동작이 검증되면서 데이터센터 고객들은 별도의 소프트웨어 변경 없이 손쉽게 삼성 CXL 메모리를 사용할 수 있게 됐다.

양사는 ‘RHEL 9.3 CXL 메모리 활성화 가이드(RHEL 9.3 CXL Memory Enabling Guide)’도 발행 예정이다. 고객들은 가이드를 이용해 레드햇 엔터프라이즈 리눅스에서 삼성전자의 CXL 메모리를 사용하고, 다양한 환경에서 고성능 컴퓨팅 시스템을 구축할 수 있다.

이번 검증은 지난해 5월 삼성전자와 레드햇 양사가 공동으로 추진한 차세대 메모리 분야 소프트웨어 기술 관련 협력의 결실로, 삼성전자는 주요 소프트웨어, 데이터센터, 서버, 칩셋 업체들과 협력을 확대해 차세대 메모리 상용화에 박차를 가하고 있다.

삼성전자 메모리사업부 상품기획실 배용철 부사장은 “삼성전자는 소프트웨어, 데이터센터, 서버 등 다양한 파트너사와 긴밀한 협력을 통해 CXL 메모리 생태계 구축에 앞장서 왔다”며, “레드햇과의 협력은 최첨단 하드웨어와 소프트웨어 기술의 결합으로, CXL 생태계가 한 단계 더 발전하는데 기여할 것”이라고 밝혔다.

레드햇 아시아태평양총괄 마리옛 안드리아스(Marjet Andriesse) 부사장은 “양사 간 이번 협력은 차세대 메모리 개발을 위한 오픈소스 생태계 구축 측면에서 하드웨어와 소프트웨어를 통합한 중요한 이정표가 될 것”이라며, “레드햇의 IaaS, PaaS 기반 소프트웨어에 CXL 메모리의 적용 가능성을 열었다는 점에서 의미가 크다”고 밝혔다.
^{* IaaS(Infrastructure as a Service): 서비스형 인프라* PaaS(Platform as a Service): 서비스형 플랫폼}

앞으로도 양사는 삼성 메모리 리서치 센터(SMRC)를 통해 CXL 오픈소스와 레퍼런스 모델 개발 등 CXL 메모리 생태계 확장을 위한 다양한 분야의 협력을 이어나갈 계획이다.
^{* SMRC(Samsung Memory Research Center) : 삼성전자의 메모리 제품을 탑재한 고객사에 자사 서버의 하드웨어와 소프트웨어의 최적 조합을 분석하고 성능을 평가할 수 있도록 제공하는 플랫폼* 레퍼런스 모델 : 시스템을 구성하는 하드웨어, 소프트웨어 간 정합성 등 사전 확인된 최적의 시스템 조합}

^{* CXL(Compute Express Link, 컴퓨트 익스프레스 링크): 고성능 서버 시스템에서 CPU와 함께 사용되는 가속기, D램, 저장장치 등을 보다 효율적으로 활용하기 위한 차세대 인터페이스}

삼성전자는 지난해 5월 세계 최초로 CXL 1.1 기반 CXL D램을 개발한데 이어, 1년 만에 CXL 2.0을 지원하는 128GB D램을 개발해 차세대 메모리의 상용화 시대를 앞당겼다.

이번 제품은 PCIe 5.0(x 8레인)을 지원하며, 최대 35GB/s의 대역폭을 제공한다.

^{* PCIe(Peripheral Component Interconnect Express): 기존 SATA 전송 속도의 성능 한계를 극복한 고속 인터페이스 규격}

삼성전자는 ‘CXL 2.0 D램’을 연내 양산할 계획이며, 차세대 컴퓨팅 시장 수요에 따라 다양한 용량의 제품도 적기에 선보여 CXL 생태계 확장을 가속화할 예정이다.

CXL D램은 메인 D램과 공존하면서 대역폭과 용량을 확장할 수 있어 인공지능, 머신러닝 등 고속의 데이터 처리가 요구되는 차세대 컴퓨팅 시장에서 주목받고 있다.

삼성전자의 ‘CXL 2.0 D램’은 업계 최초로 ‘메모리 풀링(Pooling)’ 기능을 지원한다.

‘메모리 풀링(Pooling)’은 서버 플랫폼에서 여러 개의 CXL 메모리를 묶어 풀(Pool)을 만들고, 여러 호스트가 풀(Pool)에서 메모리를 필요한 만큼 나누어 사용할 수 있는 기술이다.

이 기술은 CXL 메모리의 전 용량을 유휴 영역 없이 사용할 수 있게 해준다.

고객이 이 기술을 데이터센터에 적용하면 보다 효율적인 메모리 사용이 가능해 서버 운영비를 절감할 수 있다.

또한 절감한 운영비를 서버의 메모리에 재투자하는 등 선순환 구조가 이어질 것으로 기대된다.

삼성전자 메모리사업부 신사업기획팀장 최장석 상무는 “삼성전자는 CXL 컨소시엄의 이사회(Board of Director, BoD) 멤버로서 CXL 기술을 선도하고 있다”며, “데이터센터/서버/칩셋 등 글로벌 기업들과의 협력으로 CXL 생태계를 더욱 확장해 나갈 것”이라고 말했다.

인텔의 기술 이니셔티브 부문 책임자인 짐 파파스(Jim Pappas)는 “CXL 생태계 확대를 위해 삼성과 협력하게 되어 기쁘다”며, “삼성과 지속 협력해 업계 전반에 걸쳐 혁신적인 CXL 제품의 성장과 채용이 확대될 수 있도록 힘쓸 것”이라고 밝혔다.

몬타지 테크놀로지(Montage Technology) 스테판 타이(Stephen Tai) 사장은 “몬타지는 CXL 2.0을 지원하는 컨트롤러를 업계 최초로 양산할 계획”이라며, “CXL 기술 발전과 생태계 확산을 위해 삼성전자와 적극적으로 협력해 나갈 것”이라고 말했다.

삼성전자는 인공지능, 머신러닝, 빅데이터 등 데이터센터의 성능을 획기적으로 개선할 수 있는 대용량ㆍ고대역 D램 기술 개발을 통해 차세대 반도체 기술리더십을 확보했다.

삼성전자는 이번에 개발한 CXL 기반 D램 메모리를 인텔의 플랫폼에서 검증을 마쳐 차세대 데이터센터가 요구하는 대용량 D램 솔루션의 기반 기술을 확보했으며, 글로벌 주요 데이터센터, 클라우드 업체들과 협력을 확대해 나가고 있다.

최근 인공지능 및 빅데이터를 활용하는 응용분야가 늘어나면서 처리해야 되는 데이터의 양이 폭발적으로 증가하고 있다.

그러나 현재의 데이터센터, 서버 플랫폼에서 사용되는 기존의 DDR 인터페이스로는 시스템에 탑재할 수 있는 D램 용량에 한계가 있어 이를 극복할 수 있는 새로운 대안이 지속적으로 요구되어왔다.

CXL은 고성능 컴퓨팅 시스템에서 CPU와 함께 사용되는 가속기, 메모리, 저장장치 등을 보다 효율적으로 활용하기 위해 새롭게 제안된 인터페이스로 기존 컴퓨팅 시스템의 메모리 용량의 물리적 한계를 극복하고 D램의 용량을 획기적으로 확장할 수 있다.

삼성전자는 업계 최초로 대용량 SSD에 적용되는 EDSFF(Enterprise & Data Center SSD Form Factor) 폼팩터를 CXL D램에 적용했다. CXL D램은 기존 시스템의 메인 D램과 공존이 가능하면서 시스템의 메모리 용량을 테라바이트급까지 확장할 수 있다.

기존 D램의 컨트롤러는 데이터를 임시로 저장하는 단순 버퍼 역할만 수행했지만 삼성전자는 CXL D램에 최첨단 컨트롤러 기술을 접목해 고객들이 인공지능, 머신러닝, 인메모리 데이터베이스 등 빅데이터를 활용하는 분야에 적극적으로 CXL D램을 활용할 수 있도록 했다.

이번에 개발한 CXL D램의 컨트롤러는 컴퓨팅 시스템이 인터페이스가 다른 메인메모리 DDR D램과 CXL D램을 함께 사용할 수 있도록 ‘메모리 맵핑(Memory Mapping)’과 ‘인터페이스 컨버팅(Interface Converting)’ 기술, 시스템의 에러를 최소화하고 데이터의 신뢰성을 향상 시킬 수 있는 ‘에러 관리(Error Management)’ 등을 지원한다.

삼성전자는 2019년 CXL 컨소시엄 발족 초기부터 참여해, 글로벌 주요 데이터센터, 서버, 칩셋 업체들과 차세대 인터페이스 기술 개발을 위해 협력하고 있다.

삼성전자 메모리사업부 상품기획팀 박철민 상무는 “삼성전자의 CXL D램 기술은 차세대 컴퓨팅, 대용량 데이터센터, 인공지능 등 미래 첨단분야에서 핵심 메모리 솔루션 역할을 할 것“이라며, “스마트 데이터센터가 요구하는 차세대 기술을 선도하고 CXL 생태계가 빠르게 확장될 수 있도록 글로벌 기업들과 협력을 강화해 나가겠다”고 밝혔다.

인텔 I/O 기술과 표준 총괄인 데벤드라 다스 샤르마(Debendra Das Sharma) 펠로우는 “인공지능과 머신러닝에 대한 수요와 워크로드 증가를 지원하기 위해 데이터센터 시스템은 빠르게 진화하고 있으며, CXL 메모리를 통해 데이터센터 등에서 메모리의 사용이 한 단계 확장될 것으로 기대된다”며, “CXL을 중심으로 강력한 메모리 생태계를 구축하기 위해 삼성전자와 지속적으로 협력할 것”이라고 말했다.

AMD 서버 사업부 댄 맥나마라(Dan McNamara) 수석 부사장은 “AMD는 클라우드와 엔터프라이즈 컴퓨팅 분야의 성능 향상을 주도하기 위해 노력하고 있다”며, “CXL과 같은 차세대 메모리 개발은 이러한 성능 향상을 실현하는 데 있어 매우 중요한 요소로, 삼성전자와 협력을 통해 데이터센터 고객에게 첨단 인터커넥트 기술을 제공할 수 있을 것으로 기대하고 있다”고 밝혔다.

삼성전자는 대용량 메모리가 요구되는 차세대 컴퓨팅 시장에 맞춰 CXL 기반 메모리를 적기에 상용화할 계획이다.

▲ 삼성전자, 업계 최초 CXL 기반 D램 메모리 기술 개발