Memory Design Philosophy

DDR · LPDDR · GDDR · HBM 설계 철학 및 시스템 구성 비교

개요

DDR, LPDDR, GDDR, HBM은 모두 DRAM 계열이지만, 각기 다른 시스템 제약을 해결하도록 최적화되어 있습니다. DDR은 교체 가능성과 용량 확장을, LPDDR은 배터리 효율과 패키지 통합을, GDDR은 GPU 주변의 고대역폭 스트리밍을, HBM은 인터포저 기반의 초고집적 대역폭 밀도를 우선합니다.

같은 DRAM이라도 채널 폭, 전압, 패키징, 신호 방식, 컨트롤러 훈련 절차가 다릅니다. 이 차이가 보드 배선 길이, 방열, BOM, 업그레이드 경로와 같은 시스템 설계를 직접 좌우합니다.

각 메모리 타입은 대역폭 · 용량 · 전력 · 비용의 트레이드오프를 서로 다른 방식으로 해결합니다.

시스템 토폴로지 구성도

컴퓨트 다이와 메모리 사이의 물리적 연결 구조가 각 타입의 핵심 설계 제약을 결정합니다. DDR은 보드 레벨 확장과 서비스성을, LPDDR은 SoC 인접 배치와 저전력을, GDDR은 GPU 주변의 넓은 병렬 버스를, HBM은 인터포저 위 초단거리 연결을 전제로 설계됩니다.

거리 비교 — PCB 트레이스 (DDR): 수~수십 cm / PoP·솔더 (LPDDR): 수 mm / PCB 배치 (GDDR): 수~수십 mm / 인터포저 (HBM): 수 mm

핵심 개념

• 대역폭은 핀 속도와 버스 폭의 곱으로 결정됩니다.
• 연결 거리가 짧을수록 더 넓은 버스와 낮은 전력을 구현하기 쉽습니다.
• 컨트롤러와 PHY의 훈련, 종단, 타이밍 보정이 안정성을 좌우합니다.
• 패키지 통합 수준이 높아질수록 교체성은 낮아지지만 성능 밀도는 높아집니다.
• DDR 계열은 동일한 DRAM 셀 원리를 공유하지만, 패키지와 I/O 철학이 달라 시스템 레벨 병목이 달라집니다.
• 서버와 AI 가속기에서는 용량 확장성보다 채널 수, 스택 수, 냉각 제약이 더 큰 설계 의사결정 요소가 되기도 합니다.

패키징 구조 상세 — 각 타입의 실물 패키지 예시

아래 그림은 각 메모리 타입이 실제 하드웨어에서 어떤 형태로 패키징되는지 단면도/구성도로 보여줍니다.

핵심 포인트 — 연결 거리가 짧을수록 버스를 넓히기 쉽고 전력 효율이 높아집니다. HBM이 1024-bit 버스를 구현할 수 있는 이유, DDR이 64-bit 채널로 제한되는 이유가 모두 여기에 있습니다.

비교/분석

아래 표는 각 메모리 타입이 무엇을 가장 먼저 최적화하는지, 그리고 그 선택이 시스템 수준에서 어떤 결과를 만드는지 정리한 것입니다.

동작 원리

DDR은 CPU의 메모리 컨트롤러(IMC)가 DIMM 슬롯에 꽂힌 DRAM 칩들과 PCB 트레이스를 통해 통신하는 구조입니다. 신호 길이가 길고 분기점이 많기 때문에 훈련(train)과 종단(termination), 그리고 채널별 타이밍 보정이 중요합니다.

LPDDR은 SoC와 가까운 위치에 배치되며, PoP 또는 온보드 솔더링으로 연결 거리를 극단적으로 줄입니다. 이 때문에 낮은 전압과 세분화된 전력 상태, 짧은 인터커넥트가 핵심 설계 요소가 됩니다.

GDDR은 GPU 주변에 여러 개의 32-bit 칩을 둘러 배치해 넓은 버스를 구성합니다. HBM은 다이 적층과 실리콘 인터포저를 이용해 더 짧은 경로로 더 넓은 버스를 구현하며, 대역폭 밀도를 크게 끌어올립니다.

특히 HBM은 각 스택이 독립 채널 묶음으로 동작하고, GPU 패키지 내부에서 TSV와 마이크로범프를 통해 연결되므로 보드 레벨 SI 한계를 크게 줄입니다. 반대로 DDR과 GDDR은 패키지 밖 배선을 통과하므로 equalization, training, termination 전략이 전체 동작 마진을 좌우합니다.

장단점

• DDR: 장점은 교체성과 대용량 확장성입니다. 단점은 보드 배선 길이 때문에 대역폭 효율이 제한된다는 점입니다.
• LPDDR: 장점은 낮은 전력과 작은 폼팩터입니다. 단점은 교체가 어렵고 플랫폼 종속성이 큽니다.
• GDDR: 장점은 높은 지속 대역폭입니다. 단점은 전력과 발열, PCB 제약이 큽니다.
• HBM: 장점은 최고 수준의 대역폭 밀도입니다. 단점은 높은 단가와 복잡한 패키징입니다.

실제 시스템 설계에서는 이 장단점이 메인보드 층수, 패키지 비용, 냉각 구조, 제품 SKU 전략으로 이어집니다. 예를 들어 서버는 DIMM 기반 업그레이드를 위해 DDR을 유지하고, 모바일은 배터리와 공간 제약 때문에 LPDDR을 택하며, 고성능 GPU는 와트당 대역폭과 보드 면적 균형에 따라 GDDR과 HBM을 선택합니다.

관련 기술

• DDR5 DRAM
• LPDDR components
• Graphics memory
• High-bandwidth memory
• JEDEC DDR5 SDRAM Standard
• JEDEC LPDDR6 Standard
• JEDEC HBM4 Standard
• TSMC CoWoS Packaging
• NVIDIA H100 Tensor Core GPU
• DRAM generation comparison
• LPDDR generation comparison
• GDDR generation comparison
• HBM generation comparison
• DIMM formfactor comparison

핵심 정리

DDR은 범용성과 확장성을 중심으로, LPDDR은 전력 효율과 통합성을 중심으로, GDDR은 GPU 근접 배치와 넓은 버스를 중심으로, HBM은 인터포저 기반의 대역폭 밀도를 중심으로 설계됩니다. 같은 DRAM이라도 패키지와 신호 방식이 달라지면 시스템 구조가 완전히 달라집니다. 실제 제품 선택은 성능 수치만이 아니라 전력, 비용, 업그레이드 가능성, 방열 조건을 함께 봐야 합니다.