4차 산업혁명 시대 이끌 메모리 반도체? “주인공은 나야 나~♬”

지난 5월 10일(현지 시각), 미국 캘리포니아주(州) 실리콘밸리에서 열린 그래픽처리장치(GPU) 테크놀로지 컨퍼런스. 인공지능(AI) 컴퓨터 분야에서 첨단 기술력으로 각광 받고 있는 엔비디아(Nvidia)가 기존 슈퍼컴퓨팅의 한계를 극복한 GPU 테슬라 볼타 100(이하 ‘V100’)을 공개했다. 젠슨 황(Jensen Huang) 엔비디아 최고경영자(CEO)는 연단에 직접 올라 V100의 핵심 부품을 하나씩 밝혔다. 그중엔 삼성전자가 만든 HBM2 D램도 포함돼 있었다.

▲3D 그래픽 버전으로 구현한 삼성전자 8GB HBM2 D램

‘컴퓨팅 생태계’ 판 바꾸는 메모리의 등장

최근 메모리 업계는 ‘이전까지와 전혀 다른’ 기술 환경 변화를 목도하고 있다. 과학기술(과 관련) 산업 분야의 숨 가쁜 변화가 어디 하루 이틀 일일까. 하지만 요즘 나타나는 변화는 그 ‘폭’이 기존의 것과 확연히 다르다. 기술 분야의 혁신적 변화로 생산 패러다임 자체가 바뀌고 있기 때문이다.

전자 컴퓨터가 처음 개발되던 1940년대부터 메모리 기술은 컴퓨터 성능, 특히 정보 처리 속도 향상을 주도하는 핵심 기술 중 하나였다. 메모리 자체가 컴퓨팅 과정에서 처리돼야 할 무수한 데이터를 저장했다 필요할 때 꺼내 쓸 수 있도록 해주는 역할을 맡고 있기 때문. 초창기 진공관 캐소드[2]식(式) 메모리에서 좀 더 소형화되고 빠른 컴퓨팅을 가능하게 해주는 마그네틱 코어 메모리, 이어 등장한 코어 로프 메모리에 이르기까지 가속적 진화를 보여온 메모리는 오늘날 IC칩을 활용한 D램 단계에 접어들며 컴퓨터 처리 속도 개선과 소형화에 단단히 한몫하고 있다.

하지만 메모리 성능이 진화할수록 컴퓨터 역시 빠른 속도로 발전하고 있다. IT 산업의 발전으로 처리해야 할 데이터 양이 급격하게 증가하며 메모리의 고성능화, 소형화에 대한 요구도 날로 높아진다. ‘손 안의 컴퓨터’가 더 이상 새롭지 않고 시계나 머리띠처럼 몸에 착용하는 스마트 기기 보급이 늘며 이런 경향엔 점차 가속도가 붙고 있다. 천문학적 규모의 데이터를 처리해야 하는 빅데이터 시대의 도래 역시 이런 추세에 불을 댕긴다. 결국 메모리 기술은 “컴퓨터 진화 정도와 속도에 맞춰 끊임없이 개선돼야 한다”는 안팎의 요구에 따라 기술적 한계를 돌파해왔다 해도 과언이 아니다.

삼성전자가 업계에서 유일하게 내놓은 HBM2 DRAM은 이런 기존 패러다임을 ‘코페르니쿠스적으로’ 전환한 제품이다. 현존하는 메모리 중 가장 높은 성능을 갖춘 HBM2 D램이 컴퓨팅 기술에 새로운 가능성을 제공했기 때문이다. 메모리가 컴퓨터 진화 속도에 맞춰 성능을 개선하며 뒤쫓아가기 바빴던 게 이제까지의 추세였다면, HBM2 D램은 메모리의 가능성에 맞춰 컴퓨팅 자체를 새롭게 설계해야 할 정도로 업계 흐름을 바꾼 성취라고 할 수 있다.

삼성전자는 세계 최초로‘TSV[3] 기술 기반 차세대 메모리’ 8GB(기가바이트) HBM2 D램을 양산하며 ‘초고속 D램 시대’를 이끌고 있다. 이전까지 개발된 그래픽 D램 중 속도가 가장 빨랐던 건 8Gb(기가비트) GDDR5 D램. 초당 32GB의 데이터를 전송할 수 있었다. 반면, 8GB HBM2 D램은 초당 256GB의 메모리 대역을 실현할 수 있다. 20GB 용량의 UHD급 화질 영화 열세 편을 1초에 전송하는 속도다. 도로에 비유하자면 ‘왕복 1차선’에서 ‘왕복 8차선’으로의 변화다.

이 정도의 혁신은 지금까지의 메모리 생태계에서 볼 수 없었던 변화의 잠재력을 품고 있다. 우선 기존 플랫폼에선 시중에 이미 나와있는 메모리 제품 중 단가나 성능 등 생산 조건이 맞는 제품 중 일정 요건을 충족시키는 거라면 뭐든 부품으로 활용할 수 있었다. 하지만 HBM2 D램은 컴퓨터의 중앙처리장치(CPU)와 처음부터 협력, 플랫폼 자체를 새롭게 정의(define)하며 출발한다. 기존  CPU나 컴퓨터 구조만으론 HBM2 D램 수준의 메모리 성능을 제대로 구현할 수 없기 때문이다.

바야흐로 탁월한 성능을 갖춘 메모리가 새로운 슈퍼컴퓨터의 탄생을 견인하는 핵심 부품으로 거듭나는 구조, 메모리가 단순 부품을 넘어 컴퓨터의 진화를 이끄는 역할을 맡게 되는 환경이 조성된 셈이다. 메모리를 중심으로 하는 신(新)컴퓨팅 생태계의 위상이 형성된다고나 할까?

초고집적 설계, 발열 제어 기술과 만나다

메모리 기술의 핵심은 ‘같은 시간 내에 얼마나 많은 데이터를 제공할 수 있느냐’에 달려있다. HBM(High Bandwidth Memory), 즉 고대역폭 메모리는 현존 메모리 제품 중 가장 뛰어난 성능을 갖췄다. 데이터(가 지나는) 통로가 많은 덕분이다.

기존 D램은 데이터 통로가 4개나 8개, 많아야 16개였다. 모바일(혹은 그래픽) 제품에선 그 숫자가 32개로 늘어난다. 반면, HBM2 D램은 이 통로를 1024개 제공한다. 설명은 간단하지만 이걸 실제로 가능케 하려면 만만찮은 기술 수준이 요구된다.

삼성전자가 8GB HBM2 D램 양산에 성공한 건 지난해 6월이었다. 이 제품은 하나의 버퍼 칩 위에 8Gb HBM2 D램 칩(20나노 공정 기반) 8개를 쌓아 올린 구조다. 각 칩에 미세한 구멍을 5000개 이상 뚫은 다음, 4만 개 이상의 ‘TSV 접합볼’로 수직 연결한 일명 ‘초고집적 TSV 설계 기술’이 적용됐다. 제한된 공간에서의 정보 처리 능력을 엄청나게 늘릴 수 있는 건 이 기술 덕분이다.

이처럼 ‘소형화된 상태로 많은 데이터를 처리, 신호를 빠르게 주고 받는’ 메모리는 여러 문제를 내포하고 있다. . 아주 작은 부분이라도 신호가 원활하게 전달되지 않으면 전체적 데이터 처리 과정이 지연될 수 있는 것. TSV는 바로 이 지점에 적용될 수 있다. △웨이퍼에 미세한 구멍을 뚫는 기술 △전도성 물질을 충전하는 기술 △웨이퍼를 연마하는 기술 △칩을 쌓아 올리는(積層) 기술 등 까다로운 기술의 총합이기 때문이다.

HBM2 D램은 여기서 또 한발 더 내딛는다. 일부 TSV에서 데이터 전달이 지연될 경우, 해당 데이터가 다른 TSV로 경로를 전환하게 만든 것. 이렇게 하면 성능 저하 없이 최적의 성능을 고르게 유지할 수 있다. 또 하나, 많은 부품이 고속으로 작동하는 과정에서 피할 수 없는 게 발열(發熱) 문제다. 열에너지가 집중된 부분은 쉽게 손상될 수 있으며 자칫 전체 시스템의 오류를 야기하기도 한다. 이와 관련해서도 삼성전자는 칩의 특정 영역이 제한 온도 이상으로 높아지지 않도록 하는 일명 ‘발열 제어 기술’을 자체 개발, 적용함으로써 높은 수준의 신뢰성을 확보했다.

8GB HBM2 D램은 4GB HBM2 D램과 크기는 동일하면서 2배 용량을 제공, 뛰어난 성능을 구현할 뿐 아니라 전력 효율도 두 배나 높일 수 있다. 사실 8GB HBM2 D램의 소비 전력 효율 개선은 대용량 데이터 처리∙전송 과정에서 상당히 중요한 의미를 지닌다. 지금까진 데이터 전송 속도가 빨라지거나 전송하는 데이터 양이 많아지면 소비 전력량도 그만큼 늘어나게 마련이었다. 하지만 삼성전자의 HBM2 D램은 기존 제품에 비해 동일한 데이터 전송에 필요한 소비 전력량을 10분의 1 이하로 줄일 수 있단 점에서 가히 획기적이라 할 만하다.

긴밀한 협력 기반 생태계 조성으로 ‘차별화’

삼성전자가 TSV 기술 양산을 처음으로 성공시킨 건 2010년이었다. 하지만 해당 제품 양산은 2014년 64GB 3D TSV DDR4[4] RDIMM제품을 세계 최초로 선보이면서부터 이뤄졌다. 이 제품은 이듬해인 2015년 IR52 장영실상과 CES 혁신상을 연이어 수상하기도 했다. DDR4는 칩 하나에 전기 신호 전도용 구멍이 수백 개 뚫려있다. TSV 기술은 HBM에 적용되며 구멍 수가 수천 개 단위로 늘어났다. 이 칩들을 3차원 패키징, 즉 4단에서 8단까지의 구멍 위치에 정확히 맞춰 수천 개의 TSV를 단 하나의 문제도 없이 연결해야 하는 것이다.

삼성전자의 기술 차별성은 바로 이 지점에서 생긴다. 수천 개의 아주 작은 구멍을 정확히 연결, 작동하도록 만드는 건 상당한 난이도를 필요로 하는 기술이기 때문이다. 삼성전자가 보유한 경험과 기술이 아니었다면 심화된 TSV 기술 적용 제품을 상용화하는 작업은 완성될 수 없었을 것이다. 신호 간 간섭 문제를 해결한 점에도 주목할 필요가 있다. HBM2 D램은 데이터 통로가 1024개나 되는 까닭에 전파 간섭이 일어나 노이즈(noise) 노출 문제가 생길 수 있다. 1024개 통로 모두에서 이런 문제가 발생하지 않도록 조정해주는 데서 기술력이 또 한 차례 업그레이드된다.

완제품이 실제 시스템 위에서 작동할 때 다양한 환경 요인에서 오는 변수를 통제하는 일도 어렵긴 마찬가지다. HBM 패키지 자체에선 문제 없이 작동해도 실제 시스템 위에 탑재되면 프로세서(CPU∙GPU 등)와 동일 기판에 놓이는 만큼 환경이 복잡해진다. 이는 신호 송출 부분에서나 전원 공급 부분에서의 왜곡이 불가피해지는 요인이 된다. 메모리 자체로선 완벽해도 실제 컴퓨터 안으로 들어가 사용될 때엔 작동 오류가 발생할 수 있는 것이다.

이 때문에 반도체를 개발할 때엔 해당 제품이 실제로 적용될 시스템 환경을 미리 검토한 후 그 특성을 통합, 반영해야 한다. HBM2 메모리가 새로운 협력 생태계를 조성할 수 있는 것도 그 때문이다. 서두에 언급한 V100이 성공적으로 출시될 수 있었던 것 역시 그 같은 협업이 제때 잘 이뤄진 덕분이라고 할 수 있다. 결국 특정 메모리가 양산에 성공하려면 제품 자체를 개발하는 것 못지않게 최종 구매 고객과의 원활한 기술 협력을 지속적으로 추진, 제반 환경 변화와 장애 요소를 시의적절하게 해결하는 과정이 반드시 선행돼야 한다. 삼성전자는 오랫동안 이 분야에서 많은 경험을 축적해왔고 그 노하우가 서서히 빛을 발하고 있는 셈이다.

‘AI 플랫폼에 최적화된 메모리’로 승부 건다

모바일 기술은 어느덧 원숙기에 접어들었다. 여기저기서 ‘인공지능 시대’니 ‘테라바이트급 정보 혁명’이니 하지만 이 또한 머잖아 새로운 기술 발전에 의해 빠르게 보편화될 공산이 크다. 결국 컴퓨팅 기술 발전에서 CPU 성능 향상 못지 않게 중요한 건 연산 데이터 처리 관련 메모리 제품을 제때 확보할 수 있는지 여부다.

인공지능 플랫폼만 해도 프로세서 주변에 메모리가 붙어 데이터를 공급해주는데 V100의 경우, 프로세서 하나에 HBM2 네 개를 쓴다. 그러면 초당 1테라바이트의 정보를 처리할 수 있게 된다. 인공지능 기능을 수행하려면 이 정도 데이터 공급 능력이 갖춰져야 하는 것이다. 실제로 요즘 출시되는 인공지능 플랫폼용 메모리엔 거의 HBM2 제품이 탑재된다. 동일 시간 내에 이 정도의 데이터를 처리할 수 있는 메모리는 현재로선 HBM2가 유일하다. 인공지능이 필요로 하는 성능을 제공할 수 있게 된 것이다.

 “필요는 발명의 어머니”란 말이 있다. 하지만 종종 발명이 필요를 만들기도 한다. 인간과 기술이 이처럼 서로에게 영향을 끼치며 앞서거니 뒤서거니 맞물려 나아가는 모습은 그간 스페셜 리포트가 다양한 방식으로 조명해온 주제이기도 하다. 삼성전자로서도 중요한 미래 기술인 인공지능과 빅데이터. HBM2 D램은 이 같은 ‘시대적 난제’ 해결의 열쇠를 쥔 기술이다. 실제로 HBM2 D램은 컴퓨터 디자인 자체를 상당 부분 바꿔놓았다. 이런 변화는 또 인류의 일상을 어떤 방향으로 바꿔놓을까? 삼성전자가 동시다발적으로 진행 중인 기술 행보가 기대를 모으는 이유다.

[1]  TeraByte(TB). 컴퓨터 칩에 저장할 수 있는 정보량의 단위로 1테라바이트는 1바이트의 10¹²배다

[2] cathode. 전류가 흘러나오는 쪽의 전극

[3] 실리콘 관통전극(Through Silicon Via). 실리콘 웨이퍼를 관통하는 상∙하단 칩에 미세한 구멍(via)을 뚫은 후 그 내부를 전도성 물질로 채워 전기적 연결 통로를 확보하는 반도체 패키징(packaging) 기술

[4] Double Date Rate 4. D램 반도체 규격의 일종으로 맨 뒤에 붙은 숫자가 하나씩 늘 때마다 동작 속도가 두 배씩 증가한다. 최대 전송속도 3200Mbps, 최대 지원용량 16Gb를 갖췄다