HBM 뜻과 구조, DRAM·낸드 차이 정리… AI 반도체에 HBM이 필요한 이유와 높은 가격의 원인
엔비디아·SK하이닉스·삼성전자·TSMC의 역할과 반도체 생산 과정
HBM은 AI 반도체 뉴스에서 빠지지 않는 용어입니다. 하지만 정확히 무엇이고, 왜 엔비디아 같은 기업들이 HBM 확보에 집중하는지 이해하기는 쉽지 않습니다.
HBM은 AI가 계산하는 데 필요한 데이터를 빠르게 공급하기 위해 만든 고성능 메모리입니다. 핵심은 DRAM과 NAND의 차이, HBM의 구조, 그리고 반도체 기업별 역할을 이해하는 것입니다.
{getToc} $title={목차}
HBM 뜻과 DRAM·NAND 차이
HBM은 High Bandwidth Memory의 약자로, 고대역폭 메모리라고 합니다. 이름을 이해하려면 먼저 메모리 반도체의 대표적인 두 종류인 DRAM과 NAND 플래시를 구분해야 합니다.
- NAND 플래시: 스마트폰 사진이나 동영상처럼 데이터를 오래 보관하는 데 사용됩니다. 전원이 꺼져도 데이터가 유지됩니다.
- DRAM: 컴퓨터가 프로그램을 실행하거나 계산할 때 필요한 데이터를 임시로 저장합니다. 데이터를 빠르게 읽고 쓸 수 있지만, 전원이 꺼지면 저장된 데이터가 사라집니다.
쉽게 말하면 NAND는 장기 보관용 저장 공간이고, DRAM은 작업할 때 바로 사용하는 임시 공간입니다.
HBM은 NAND가 아니라 DRAM을 기반으로 만든 메모리입니다. GPU가 AI 연산을 수행할 때 필요한 데이터를 빠르게 공급하는 것이 핵심 역할입니다.
HBM은 DRAM을 수직으로 쌓아 만든 메모리입니다
HBM의 가장 큰 특징은 여러 개의 DRAM 칩을 수직으로 쌓고, 칩 사이를 촘촘하게 연결한다는 것입니다. 이때 칩을 관통하는 미세한 연결 통로인 TSV 기술을 활용합니다.
여기서 중요한 것은 단순히 메모리를 높이 쌓는 것이 아닙니다. 한 번에 더 많은 데이터를 주고받을 수 있도록 데이터 전송 통로를 넓혔다는 점이 핵심입니다.
도로에 비유하면 차 한 대가 더 빨리 달리는 것보다, 여러 차가 동시에 지나갈 수 있도록 차선을 넓힌 것에 가깝습니다.
이러한 데이터 전송 능력을 나타내는 용어가 바로 대역폭입니다. 일정 시간 동안 얼마나 많은 데이터를 주고받을 수 있는지를 뜻합니다. HBM은 넓은 데이터 통로를 활용해 대량의 데이터를 빠르게 전달하도록 설계됐습니다.
HBM이 AI 반도체에 필요한 이유와 높은 가격
AI 연산에 사용되는 GPU는 방대한 데이터를 처리합니다. 그런데 GPU의 계산 능력이 아무리 뛰어나도 필요한 데이터를 메모리에서 충분히 빠르게 공급받지 못하면 성능을 온전히 활용하기 어렵습니다.
이처럼 데이터를 기다리느라 처리 속도가 제한되는 상황을 병목 현상이라고 합니다. HBM은 GPU가 많은 데이터를 빠르게 공급받도록 도와 이러한 병목을 줄이는 데 중요한 역할을 합니다.
그렇다면 HBM은 왜 비쌀까요?
여러 DRAM 칩을 정밀하게 쌓고 연결해야 하며, 발열 관리와 제조 과정의 품질 확보도 중요하기 때문입니다. 이처럼 제조 공정이 복잡하고 첨단 패키징 기술까지 필요합니다.
다만 실제 가격은 제조 난도뿐 아니라 제품 성능과 시장의 수요·공급에도 영향을 받습니다.
엔비디아·TSMC·SK하이닉스·삼성전자의 역할
HBM이 들어간 AI 반도체는 여러 기업이 각자의 기술을 담당해 완성합니다. 대표적인 역할은 다음과 같습니다.
- 엔비디아: AI 연산에 사용되는 GPU를 설계합니다.
- SK하이닉스·삼성전자: GPU와 함께 사용되는 HBM 메모리를 제조합니다.
- TSMC: 반도체 위탁 생산을 담당하고, CoWoS라는 첨단 패키징 기술로 GPU와 HBM을 하나의 패키지로 통합합니다.
쉽게 말하면 엔비디아는 GPU를 설계하고, 메모리 기업은 HBM을 만들며, TSMC는 반도체 생산과 패키징을 담당하는 구조입니다. 실제 공급업체와 조합은 제품에 따라 달라질 수 있습니다.
HBM 자체가 계산을 수행하는 것은 아닙니다. GPU가 계산할 데이터를 빠르게 공급하는 메모리라는 점만 기억하면 HBM이 AI 반도체에서 왜 중요한지 이해할 수 있습니다.
📁본문 정보 출처
