AI 반도체 시장에서 최근 몇 년 동안 가장 중요한 메모리 중 하나는 HBM(High Bandwidth Memory·고대역폭메모리)이었습니다.
HBM은 여러 개의 DRAM을 수직으로 쌓아 넓은 데이터 통로를 확보함으로써 AI 가속기에 대량의 데이터를 빠르게 전달하는 메모리입니다.
엔비디아와 같은 기업의 AI 가속기가 아무리 빠르게 계산할 수 있어도 필요한 데이터를 제때 공급받지 못하면 전체 시스템 성능이 떨어질 수 있기 때문에 HBM의 중요성은 빠르게 커졌습니다.
그런데 삼성전자는 이제 기존 HBM보다 한 단계 더 나아간 새로운 구조를 준비하고 있습니다.
바로 zHBM입니다.
삼성전자는 2026년 8월 미국에서 열린 FMS(Future of Memory and Storage) 2026에서 zHBM 목업을 처음 공개하고 차세대 AI 메모리 아키텍처 비전을 발표했습니다.
그렇다면 zHBM은 기존 HBM과 무엇이 다를까요?
이번 글에서는 zHBM의 구조부터 삼성전자가 주장하는 성능 향상의 원리, AI 데이터센터에서 왜 이런 기술이 필요한지, 그리고 실제 사업 성과로 이어지기 위해 무엇을 확인해야 하는지 하나씩 공부해보겠습니다.
먼저 HBM은 왜 만들어졌을까?
HBM을 이해하려면 AI 가속기와 메모리의 관계부터 알아야 합니다.
AI 가속기는 수많은 계산을 동시에 처리합니다.
하지만 계산에 필요한 데이터는 메모리에서 가져와야 합니다.
AI 모델의 규모가 작을 때는 기존 메모리 구조로도 어느 정도 대응할 수 있었지만 생성형 AI와 에이전틱 AI가 발전하면서 모델의 크기와 처리해야 할 데이터가 크게 증가했습니다.
이 과정에서 문제가 발생합니다.
AI 가속기의 계산 능력은 빠르게 증가했지만 메모리에서 데이터를 가져오는 속도가 이를 따라가지 못하면 AI 가속기가 데이터를 기다리는 상황이 생길 수 있기 때문입니다.
이를 흔히 메모리 병목현상이라고 합니다.
HBM은 이러한 문제를 줄이기 위해 여러 개의 DRAM을 수직으로 적층하고 넓은 인터페이스를 이용해 많은 데이터를 동시에 전달하도록 설계됐습니다.
삼성전자 역시 HBM을 TSV 기반 적층 기술과 광대역 인터페이스를 활용해 AI 학습과 고성능 컴퓨팅을 지원하는 메모리로 설명하고 있습니다.
AI 성능이 높아질수록 메모리가 중요해지는 이유
AI 가속기가 빨라도 데이터를 제때 공급하지 못하면 전체 성능은 제한된다
기존 HBM도 결국 한계가 생긴다
현재 HBM은 AI 반도체의 핵심 부품이지만 삼성전자는 앞으로 AI 모델이 더 커지면 현재와 같은 HBM 배치 방식에도 한계가 생길 것으로 보고 있습니다.
기존 HBM 시스템을 단순하게 표현하면 다음과 같습니다.
HBM │ AI 가속기 │ HBM
즉 HBM이 AI 가속기의 옆에 배치되는 구조입니다.
HBM 자체의 대역폭을 계속 높여도 메모리에서 AI 가속기까지 데이터가 이동해야 하는 물리적인 거리는 남아 있습니다.
AI가 처리하는 데이터가 계속 증가할수록 이 거리가 시스템 성능과 소비전력에 더 큰 영향을 줄 수 있습니다.
삼성전자는 FMS 2026에서 고성능 컴퓨팅과 AI 인프라가 확대될수록 고용량·고대역폭 메모리에 대한 요구가 높아지며 기존 HBM 구조만으로 미래 성능 요구를 충족하는 데 한계가 있을 수 있다고 설명했습니다.
여기에서 등장한 것이 zHBM입니다.
zHBM의 가장 큰 차이｜메모리를 AI 가속기 위에 올린다
zHBM의 핵심은 의외로 간단합니다.
기존 HBM은 AI 가속기 옆에 놓이지만 zHBM은 메모리를 AI 가속기 위쪽에 수직으로 적층하는 구조입니다.
기존 방식이
HBM → AI 가속기
였다면,
zHBM은 개념적으로
HBM
↕
AI 가속기
처럼 위아래로 붙이는 구조에 가깝습니다.
왜 이렇게 만들려고 하는 걸까요?
가장 큰 이유는 데이터 이동 거리를 줄이기 위해서입니다.
메모리와 AI 프로세서 사이의 거리가 짧아지면 같은 데이터를 이동시키더라도 더 빠르게 전달하고 소비전력을 줄일 수 있는 가능성이 커집니다.
삼성전자는 zHBM을 AI 가속기 상단에 직접 적층함으로써 프로세서와 메모리 사이 데이터 이동 거리를 최소화하는 구조라고 설명합니다.
기존 HBM과 zHBM 구조의 차이
핵심은 데이터 이동 거리 단축
삼성전자가 말하는 최대 8배 성능은 무슨 의미일까?
FMS 2026 발표에서 가장 눈에 띄는 숫자가 있습니다.
삼성전자에 따르면 zHBM이 적용된 차세대 인터페이스 시스템은 비교 기준으로 제시된 HBM5 시스템보다 최대 8배 높은 성능을 목표로 합니다.
또한 삼성전자는
전력 대비 성능 최대 3배 향상
그리고
열저항 50% 이상 감소
를 제시했습니다.
다만 이 숫자를 볼 때는 한 가지를 반드시 구분해야 합니다.
이것이 현재 판매되고 있는 zHBM 제품의 실제 벤치마크 결과라는 의미는 아닙니다.
삼성전자가 FMS 2026에서 공개한 zHBM은 목업과 차세대 기술 아키텍처입니다.
따라서
“삼성전자가 HBM보다 8배 빠른 메모리를 이미 판매하고 있다”
고 이해하면 안 됩니다.
정확하게는 삼성전자가 차세대 시스템 구조에서 구현하려는 기술 목표와 예상되는 성능 개선 방향으로 보는 것이 좋습니다.
왜 전력효율이 중요한가?
AI 반도체를 공부할 때 성능만큼 중요한 것이 있습니다.
바로 전력 소비입니다.
대규모 AI 데이터센터에는 수천 개에서 수만 개 이상의 AI 가속기가 사용될 수 있습니다.
하나의 AI 가속기가 소비하는 전력이 커지면 데이터센터 전체 전력 소비도 크게 증가합니다.
여기에 서버에서 발생하는 열을 식히기 위한 냉각 전력까지 필요합니다.
따라서 AI 반도체의 경쟁력은 단순히
얼마나 빠른가
만으로 결정되지 않습니다.
앞으로는
얼마나 적은 전력으로 높은 성능을 내는가
가 더욱 중요해질 가능성이 높습니다.
삼성전자가 zHBM에서 데이터 이동 거리를 줄이고 열저항을 낮추려는 이유도 결국 AI 데이터센터의 성능과 전력효율을 함께 개선하기 위한 것입니다.
삼성전자가 제시한 zHBM의 목표
※ FMS 2026에서 삼성전자가 제시한 차세대 아키텍처 기준
단순히 위에 쌓는다고 끝나는 것은 아니다
여기서 궁금한 점이 생깁니다.
메모리를 프로세서 위에 그냥 쌓으면 되는 것 아닐까요?
실제로는 훨씬 복잡합니다.
반도체를 수직으로 연결하면 신호를 빠르게 전달할 수 있지만 열과 전력, 제조 난도가 동시에 높아집니다.
삼성전자는 zHBM 구현을 위해 하이브리드 구리 본딩(Hybrid Copper Bonding·HCB)과 멀티 웨이퍼 본딩(Multi-Wafer Bonding) 같은 기술을 활용하는 방향을 제시했습니다.
하이브리드 구리 본딩은 칩 사이를 보다 정밀하게 직접 연결하는 기술이고, 멀티 웨이퍼 본딩은 여러 웨이퍼를 하나의 3D 구조로 연결하기 위한 기술입니다.
이 기술들이 중요한 이유는 데이터 이동 거리를 줄이면서도 신호 전달 속도와 열 관리 문제를 함께 해결해야 하기 때문입니다.
결국 zHBM의 경쟁력은 메모리 기술만으로 결정되지 않을 가능성이 높습니다.
DRAM
＋
3D 적층
＋
본딩
＋
열 관리
＋
AI 프로세서 설계
가 동시에 맞물려야 합니다.
고객 맞춤형 HBM으로 발전할 가능성
zHBM에서 또 하나 중요한 부분은 고객 맞춤형 설계입니다.
삼성전자는 메모리와 AI 가속기 사이의 인터레이어에 고객 맞춤형 IP를 추가할 수 있는 구조를 제시했습니다.
여기서 IP는 반도체의 특정 기능을 구현하는 설계 블록을 의미합니다.
쉽게 말하면 앞으로 모든 고객에게 똑같은 HBM을 판매하는 것보다
엔비디아용
AMD용
구글 AI 가속기용
처럼 고객의 프로세서 구조에 맞게 메모리를 최적화하는 방향으로 시장이 발전할 가능성이 있다는 의미입니다.
HBM 경쟁이 단순한 메모리 스펙 경쟁을 넘어 AI 가속기와 메모리를 하나의 시스템처럼 공동 설계하는 경쟁으로 발전할 수 있는 것입니다.
이 부분은 삼성전자에게도 중요합니다.
삼성전자는 DRAM뿐 아니라 파운드리와 첨단 패키징 기술을 함께 보유하고 있기 때문입니다.
앞선 글에서 살펴본 것처럼 삼성전자 HBM4에는 자체 파운드리 4나노 공정으로 만든 로직 베이스 다이가 적용되고 있습니다. 삼성전자는 2026년 2월 HBM4 양산 출하를 시작했고, 5월에는 12단 HBM4E 샘플을 글로벌 고객사에 공급했다고 발표했습니다.
장기적으로 이러한 기술들이 zHBM 같은 차세대 3D 시스템으로 연결될 가능성을 살펴볼 필요가 있습니다.
HBM4 → HBM4E → HBM5 → zHBM
삼성전자의 최근 HBM 로드맵을 이해하기 쉽게 정리하면 다음과 같은 흐름으로 볼 수 있습니다.
HBM4
현재 양산·공급 단계
↓
HBM4E
차세대 제품 샘플 공급 단계
↓
HBM5
기존 HBM 구조의 추가 발전
↓
zHBM
AI 프로세서와 메모리를 3D로 더욱 밀접하게 결합하는 새로운 아키텍처
여기서 중요한 점은 zHBM을 단순히
“HBM4 다음 제품”
으로 이해하면 안 된다는 것입니다.
HBM4E나 HBM5처럼 HBM 세대를 단순히 한 단계 높이는 것보다 메모리를 배치하는 시스템 구조 자체를 바꾸는 방향에 가깝습니다.
즉 HBM의 속도만 높이는 것이 아니라
메모리와 프로세서 사이의 물리적 거리
자체를 줄이는 것입니다.
삼성전자 AI 메모리 발전 방향
속도를 높이는 경쟁에서 구조를 바꾸는 경쟁으로
그렇다면 zHBM이 삼성전자의 새로운 무기가 될까?
가능성은 있지만 아직 판단하기는 이릅니다.
2026년 8월 현재 zHBM은 상용 대량생산 제품이 아니라 삼성전자가 공개한 차세대 메모리 아키텍처와 목업 단계이기 때문입니다.
반도체 기술은 발표보다 실제 양산이 훨씬 중요합니다.
앞으로 zHBM을 공부할 때는 다음 과정이 실제로 진행되는지 확인해야 합니다.
기술 공개
↓
시제품 개발
↓
AI 고객사 협업
↓
샘플 공급
↓
고객 인증
↓
수율 확보
↓
대량 양산
↓
실제 매출 발생
이 과정을 거쳐야 기술이 사업 성과로 연결될 수 있습니다.
특히 zHBM처럼 AI 가속기와 메모리를 매우 가깝게 결합하는 구조에서는 고객사와의 공동 설계가 더욱 중요할 가능성이 있습니다.
zHBM에서 앞으로 확인해야 할 5가지
삼성전자 zHBM 관련 뉴스가 앞으로 계속 나온다면 다음 다섯 가지를 확인하면 좋습니다.
1. 실제 시제품 공개
현재 목업에서 실제 동작하는 시제품으로 발전하는지 확인해야 합니다.
2. 주요 AI 고객사 협력
엔비디아, AMD, 구글 등 주요 AI 프로세서 기업과 실제 개발 협력이 나타나는지가 중요합니다.
3. 발열 문제
AI 프로세서 위에 HBM을 적층하면 데이터 이동에는 유리하지만 열 관리 기술이 매우 중요해질 수 있습니다.
4. 양산 수율
3D 적층과 본딩 과정이 복잡해질수록 대량생산 과정에서 안정적인 수율을 확보하는 것이 중요합니다.
5. 실제 제품 출시 시점
기술 발표가 언제 실제 데이터센터용 제품으로 연결되는지를 확인해야 합니다.
정리｜zHBM은 HBM의 속도를 높이는 것보다 구조를 바꾸는 기술
삼성전자 zHBM의 핵심은 단순히 더 빠른 HBM을 만드는 것이 아닙니다.
지금까지 HBM이 AI 가속기 옆에서 데이터를 전달했다면 zHBM은 메모리를 AI 가속기 위에 직접 적층해 메모리와 프로세서 사이의 물리적 거리를 줄이는 것을 목표로 합니다.
삼성전자가 FMS 2026에서 제시한 기술 목표는 상당히 공격적입니다.
HBM5 대비 최대 8배의 시스템 성능, 최대 3배의 전력 대비 성능, 50% 이상 낮은 열저항을 제시했습니다.
하지만 현재 가장 중요한 것은 이 숫자 자체가 아닙니다.
zHBM은 아직 목업과 기술 비전 단계이기 때문입니다.
앞으로
시제품
→ 고객사 협업
→ 인증
→ 수율 확보
→ 양산
으로 이어지는지를 확인해야 합니다.
삼성전자가 이 과정을 성공적으로 진행한다면 HBM 경쟁은 단순히 누가 더 빠른 메모리를 만드는지를 넘어
누가 AI 프로세서와 메모리를 가장 효율적으로 하나의 시스템으로 결합하는가
의 경쟁으로 발전할 가능성이 있습니다.
그 점에서 zHBM은 삼성전자가 HBM4 이후의 AI 메모리 시장에서 준비하고 있는 중요한 기술 방향 중 하나라고 볼 수 있습니다.
참고자료
- 삼성전자 뉴스룸, 「삼성전자, FMS 2026서 차세대 3D 메모리 비전 제시」, 2026년 8월 5일
- 삼성반도체, 「AI 시대 메모리의 진화, 더 빠르게·더 촘촘하게」, FMS 2026 기술자료
- 삼성전자 뉴스룸, 「Samsung Electronics Begins Shipment of Industry-First HBM4E Samples」, 2026년 5월 29일
- 삼성전자 뉴스룸, HBM4 양산 출하 발표, 2026년 2월 12일
- 삼성반도체 HBM 제품 소개 자료
※ 투자 관련 안내
본 글은 삼성전자 공식 자료와 공개된 기업 자료를 공부하기 위해 작성한 개인적인 분석이며 특정 종목의 매수·매도를 권유하기 위한 글이 아닙니다. 특히 zHBM은 현재 상용 대량생산 제품이 아닌 차세대 기술 아키텍처 단계이므로 향후 개발 및 상용화 과정은 달라질 수 있습니다. 투자 판단과 책임은 투자자 본인에게 있습니다.