반도체 기사에서 HBM을 보면 D램과
다른 새 반도체처럼 느껴지지만,
HBM은 D램의 한 종류예요.

D램 칩 여러 장을 아파트처럼
위로 쌓고, 칩 사이를 수천 개의
구멍 통로로 이어 한꺼번에 많은
데이터를 주고받게 만든 메모리예요.

이름도 그대로 High
Bandwidth Memory,
우리말로 고대역폭 메모리예요.

1. HBM은 D램을 어떻게 쌓아 놓은 건가요?

HBM은 얇게 깎은 D램 칩을 8장,
12장씩 수직으로 쌓아요.

위아래 칩은 실리콘을 뚫고 지나가는
미세한 통로인 TSV(실리콘 관통 전극)로 이어져요.

칩 가장자리에 선을 빙 둘러
연결하던 예전 방식보다 길이
짧고 통로 수가 훨씬 많아요.

이렇게 쌓은 묶음 하나를
"스택"이라고 불러요.

스택은 GPU 같은 연산 칩 바로 옆,
같은 받침판(인터포저) 위에 붙어요.

메인보드 저쪽에 꽂는 일반 메모리와 달리
연산 칩과 몇 밀리미터 거리에 있어서,
데이터가 오가는 길이 짧고 넓어요.

쌓는 일 자체도 어려워요.

층이 높아질수록 열이 빠져나가기
어렵고, 수천 개 통로 가운데
하나만 어긋나도 불량이 나요.

그래서 기사에서는 "몇 단을 쌓았나"와
함께 "수율이 얼마나 나오나"가 늘 같이
나와요.

2. 일반 D램(DDR)과 HBM은 무엇이 다른가요?

컴퓨터 메인보드에 꽂는 메모리는
대부분 DDR이라는 D램이에요.

HBM도 D램이지만
생김새와 쓰임이 꽤 달라요.

데이터 선이 64개인 도로와
1,024개인 도로를 떠올리면 쉬워요.

선 하나로 나르는 속도는
둘이 큰 차이가 없어도,
차선이 열여섯 배 넓은 HBM이
한꺼번에 나르는 양은 비교가 안 돼요.

그래서 AI 서버 한 대에도
CPU 쪽에는 DDR,
GPU 쪽에는 HBM이 함께 들어가요.

3. 왜 AI 때문에 HBM이 귀해졌나요?

AI 모델은 계산하는 내내 거대한 숫자
덩어리를 메모리에서 꺼내 와야 해요.

GPU가 아무리 빨라도 데이터가
늦게 오면 기다리며 놀게 되는데,
이 병목을 줄이는 게 HBM이에요.

GPU 한 개에 HBM 스택을
여러 개 붙이는 것도 그래서예요.

여기서 용량과 대역폭을 나눠
읽으면 기사가 쉬워져요.

용량(GB)은 창고 크기,
대역폭(GB/s·TB/s)은 1초에
창고를 드나드는 물건의 양이에요.

창고가 같아도 문이
넓으면 대역폭이 커져요.

제품 소개에 나오는 숫자가 스택
하나의 값인지, GPU에 붙은
전체의 값인지도 함께 봐야 해요.

4. HBM3E, HBM4는 무슨 뜻인가요?

HBM 뒤에 붙는 숫자는 세대예요.

HBM → HBM2 → HBM2E →
HBM3 → HBM3E → HBM4
순서로 나왔고, 세대가 올라갈수록
쌓는 층과 속도가 늘어요.

규격은 반도체 표준 단체인
JEDEC이 정해요.

HBM4에서는 스택 하나의 데이터
선이 2,048개로 두 배가 돼요.

만드는 회사는 사실상 세 곳이에요.

SK하이닉스, 삼성전자, 미국 마이크론이
세대마다 먼저 내놓기 경쟁을 하고,
엔비디아 같은 GPU 회사의 품질 시험을
통과해야 큰 물량을 공급할 수 있어요.

기사에 "퀄 테스트 통과"라는
말이 자주 나오는 이유예요.

자주 묻는 질문

HBM은 D램이 아닌 다른 반도체인가요?

아니에요. D램 칩을 쌓아 만든
메모리라 D램에 들어가요. 쌓고 잇는
방식이 달라 따로 부를 뿐이에요.

용량이 같으면 속도도 같나요?

아니에요.

용량은 담는 양, 대역폭은 1초에
오가는 양이라 서로 다른 숫자예요.

같은 용량이라도 세대가 다르면
대역폭이 크게 달라요.

HBM이 좋아지면 일반 D램은 필요 없어지나요?

그렇지 않아요.

HBM은 비싸고 바꿔 끼울 수 없어서
GPU 옆처럼 꼭 필요한 곳에만 써요.

PC와 서버의 기본 메모리는
지금도 DDR이 맡아요.

매직오브 홈페이지
https://www.magicorb.co.kr

카카오톡 상담하기
http://pf.kakao.com/_XfXaX/chat