고대역폭 메모리 (HBM)

역사

HBM의 출발점은 메모리 대역폭 병목, 즉 '메모리 월(memory wall)'이었다. 1994년 William Wulf와 Sally McKee가 이 개념을 만들었고, 프로세서 속도 향상이 메모리 대역폭 향상을 앞지르는 문제를 해결하려는 시도가 2000년대 중반 AMD의 메모리 연구로 이어졌다.

다이 적층 메모리는 플래시 업계에서 먼저 상용화되었다. 도시바가 2007년 4월 8단 NAND 플래시 칩을, 하이닉스반도체가 2007년 9월 24단 NAND 칩을 내놓았다. TSV 기반 3D 적층 RAM은 엘피다 메모리가 처음 상용화하여 2009년 9월 DDR3 다이 4개를 쌓은 첫 8GB DRAM 칩을 개발하고 2011년 6월 출시했다. 2011년 SK하이닉스는 TSV 16GB DDR3(40nm급), 삼성전자는 9월에 TSV 32GB DDR3(30nm급)를 소개했고, 10월 삼성과 마이크론이 TSV 기반 하이브리드 메모리 큐브(HMC)를 발표했다.

HBM 자체의 개발은 2008년 AMD에서 컴퓨터 메모리의 전력 사용량과 형태 인자 문제를 해결하려는 목표로 시작되었으며, 시니어 AMD 펠로우 브라이언 블랙이 이끄는 팀이 다이 적층 문제를 해결했다. 메모리 파트너 SK하이닉스와 인터포저(UMC)·패키징(앰코, ASE) 파트너가 참여했다. JEDEC은 전신 격인 Wide IO 메모리 표준 JESD229를 2011년 12월 발표했고, 2010년 AMD와 SK하이닉스의 제안에 따라 2013년 10월 최초의 HBM 표준 JESD235가 채택되었다. 같은 해 SK하이닉스가 최초의 HBM 메모리 칩을 생산하면서 개발이 완성되었고, 대량 생산은 2015년 대한민국 이천의 하이닉스 시설에서 시작되었다.

관계

JEDEC 표준화 일정은 세대별로 이어졌다. HBM1(JESD235) 2013년 10월, HBM2(JESD235a) 2016년 1월, HBM2E 업데이트 2018년 말, HBM3 2022년 1월 27일, HBM4 2025년 4월이다. 2025년에는 HBM4 이후에도 HBM4E, SPHBM4, zHBM 등이 개발 중이다.

제조·설계 구도는 고도로 집중되어 있다. 2025년 HBM 최대 제조사는 SK하이닉스, 삼성전자, 마이크론 테크놀로지이며 3사가 세계 HBM 웨이퍼 생산의 97%를 장악한다. 이는 수십 년의 세계 경쟁 끝에 한국·미국 기업이 주도권을 쥔 결과다. TSMC는 HBM용 베이스 다이를 생산하고 2026년 여러 HBM 기업의 파운드리가 될 계획이다. 2020년대 중반 현재 모든 주요 AI 칩 제조사(화웨이 포함)가 HBM을 사용하며, HBM은 고성능 AI 가속기에 사실상 필수적이다.

한국 공급망은 대미 연계가 깊다. SK하이닉스와 삼성은 엔비디아, 마이크로소프트, 브로드컴, 최근에는 테슬라 등 미국 AI 하드웨어 선도 기업에 HBM을 공급한다. 동시에 HBM·DDR5 등 첨단 메모리 반도체는 한국 수출경제의 중심축이다. 2024년 반도체 수출은 1419억 달러(전년 대비 43.9% 증가)였고, 중국이 466억 달러(32.8%)로 최대 시장, 미국은 107억 달러(7.5%)였다. 대중국 상호의존은 리스크이기도 하다. 한국은 2024년 기준 희토류 투입의 47.5%를 중국에서 조달했고, 중국은 희토류 등 핵심 소재 수출에 허가제를 적용해 하류 사용처를 추적할 수 있다.

예

최초의 HBM 메모리 칩은 2013년 SK하이닉스가 생산했고, HBM을 사용한 최초의 GPU는 2015년 6월 출시되어 AMD 라데온 R9 퓨리 X에 탑재된 AMD 피지(Fiji)였다. 이로써 HBM은 소비자 게이밍에서 데이터센터/AI 응용으로 확산되었다. 최초의 데이터센터 GPU 채택은 2016년 4월 발표된 엔비디아 테슬라 P100이었고, 2024년 엔비디아는 데이터센터 GPU마다 여러 HBM 스택을 결합한 블랙웰 아키텍처를 발표했다.

세대별 대표 사양은 다음과 같다. HBM1(2013) 4GB·128GB/s; HBM2(2016) 2.4Gb/s 8GB 307GB/s; HBM2E(2019) 3.6Gb/s 24GB 461GB/s; HBM3(2022) 6.4Gb/s 819GB/s; HBM3E(2023) 9.8Gb/s 48GB 1229GB/s; HBM4(2025) 8Gb/s, 32×64비트, 64GB 2048GB/s.

엔비디아 H100 GPU는 HBM3를 사용했고, 2022년 8월 엔비디아는 '호퍼' H100이 5개의 활성 HBM3 사이트로 80GB RAM과 3TB/s 메모리 대역폭을 제공한다고 발표했다. 2023년 8월에는 HBM3e를 6144비트 버스로 사용해 HBM3보다 대역폭 50%, 용량 75% 높은 141GB의 GH200 그레이스 호퍼 슈퍼칩을 발표했다. 2026년 AMD MI400 시리즈가 HBM4를 사용하는 최초 제품 중 하나다.

HBM1 스택(4-Hi)은 다이당 2개의 128비트 채널로 총 8채널·1024비트 폭이며, 4개의 4-Hi 스택을 쓰는 GPU는 4096비트 메모리 버스를 가진다. 이런 넓은 버스는 AI 칩 성능을 좌우한다. 2024년 기준 HBM은 AI 칩 생산비의 약 절반을 차지하며, 최신 세대 HBM을 쓰지 못하면 프로세서가 아무리 빨라도 열등한 제품이 된다.

구별

HBM은 DDR4나 GDDR5보다 더 높은 대역폭을 더 적은 전력과 훨씬 작은 형태 인자로 달성한다. 버스 폭은 1024비트로 GDDR의 32비트보다 훨씬 넓지만, 실리콘 인터포저 비용이 추가되고 연결 수가 많아 새로운 연결 방식이 필요하다. 전통적 DRAM은 마더보드의 좁은 채널을 통해 프로세서에 연결된 별도 칩인 반면, HBM은 DRAM 다이를 적층해 프로세서 바로 옆 같은 인터포저에 배치하여 훨씬 많은 병렬 채널로 통신한다.

원리적으로 유사한 대안과는 호환되지 않는다. HBM은 하이브리드 메모리 큐브(HMC)와 원리적으로 유사하지만, 마이크론 테크놀로지가 개발한 HMC 인터페이스와는 호환되지 않는다. 또한 HBM은 AI 가속기의 다른 구성요소인 프로세서와 별도로 제조·패키징되는 부품이며, 메모리 대역폭이 전체 AI 칩 성능을 제약한다.

범용 DRAM과의 시장 관계에서 HBM은 생산능력을 잠식하여 범용 DRAM 공급을 압축한다. HBM과 DDR5 웨이퍼 생산능력 간 전환 비율이 3:1이어서 HBM 증산은 곧바로 범용 메모리 공급을 줄인다. 중국은 HBM 제조의 후발주자로, 최대 DRAM 제조사인 창신메모리(CXMT)가 현재 2세대 HBM 칩(한국 기업들이 2016년 처음 생산한 수준)을 제조하며 한 세대를 건너뛰어 SK하이닉스·삼성·마이크론보다 약 3~4년 뒤처진 HBM 개발을 목표로 한다.

한국어판 위키백과는 HBM4 최초 사용 제품으로 'MI430X'를 들고, 영어판은 2026년 AMD MI400 시리즈를 든다. 두 판본의 제품명 표기가 달라 확정하지 않는다.