본문 바로가기

삼성 zHBM vs SK HBF, 차세대 AI 메모리 대격돌

테저씨 2026. 8. 6.

GPU당 성능 최대 8배, 비용은 6분의 1. AI 가속기 '위에' 메모리를 쌓는다는 발상, 과연 어디까지 왔을까요?

삼성 zHBM vs SK HBF
삼성 zHBM vs SK HBF

오늘은 FMS 2026 무대에서 공개된 차세대 AI 메모리 이야기를 들고 왔어요. 에이전틱 AI 시대가 열리면서 처리해야 할 데이터가 기하급수적으로 늘었고, 그 결과 '메모리 장벽(Memory Wall)'이라는 병목이 산업 전체의 숙제가 됐는데요. 삼성전자는 가속기 상단에 메모리를 직접 쌓아 올리는 zHBM과 z낸드-O, 400단 이상 V10 BV-낸드로 수직 적층 혁신을 택했고, SK하이닉스는 샌디스크와 손잡고 세계 최초 HBF 표준 규격과 계층형 메모리 구조로 맞섰습니다. 두 회사의 완전히 다른 설계 사상, 핵심 수치와 함께 하나씩 정리해 볼게요.

zHBM이란? 정의와 등장 배경

zHBM이라는 이름, 처음 들으면 좀 낯설죠? 핵심은 의외로 단순합니다. 고대역폭 메모리(HBM)를 AI 가속기(xPU) 옆에 나란히 배치하던 기존 패키징 방식에서 벗어나, AI 가속기 상단에 메모리를 직접 수직으로 쌓아 올리는 차세대 구조라는 거예요. 이름에 붙은 'z'는 가로·세로(X·Y축)라는 평면의 한계를 넘어 높이, 그러니까 Z축이라는 3차원 공간을 적극 활용하겠다는 의지를 담고 있습니다.

zHBM
zHBM

그럼 왜 굳이 위로 쌓는 걸까요? 배경에는 에이전틱 AI(Agentic AI)가 있습니다. 스스로 계획하고 업무를 수행하는 AI 기술이 발전하면서 처리해야 할 토큰과 문맥 데이터가 기하급수적으로 늘어났거든요. 문제는 AI 가속기의 연산 속도는 비약적으로 빨라진 반면, 메모리와 가속기 사이 데이터 전송 통로가 이를 따라가지 못한다는 점입니다. 기존처럼 가속기 옆에 메모리를 두면 물리적 전송 거리 때문에 대역폭과 전력 효율이 제한되는 '메모리 장벽(Memory Wall)'에 부딪히게 되죠.

메모리 장벽(Memory Wall)
메모리 장벽(Memory Wall)

zHBM은 바로 이 벽을 넘기 위한 해법이에요. 가속기 위에 메모리를 바로 쌓으면 데이터가 오가는 물리적 거리가 극단적으로 줄어들고, 그 덕분에 데이터 전달 속도는 극대화되고 전력 소모는 최소화됩니다. 발상 자체는 간단한데, 이걸 실제로 구현하겠다고 나선 게 포인트인 거죠.

zHBM 성능 지표: HBM5 대비 무엇이 다른가

숫자를 보면 좀 놀라실 거예요. zHBM은 아직 개발 중인 차세대 규격인 HBM5(8세대)와 비교해도 압도적인 기술 지표를 자랑합니다. 솔직히 처음 수치를 봤을 때 '이게 되나?' 싶었는데, 목업 단계라는 점을 감안해도 방향성만큼은 확실하더라고요.

항목 HBM5 대비 zHBM 성능 핵심 내용
데이터 처리 성능 최대 8배 향상 GPU 1개당 데이터 처리 성능 기준
전력 효율(전성비) 최대 3배 향상 짧아진 전송 거리 덕분에 전력 대비 성능 상승
열 저항 HBM5의 10~25% 수준 전체 시스템 열 저항 절반 이상 감소
고객 맞춤형 설계 인터레이어 커스텀 가능 중간층에 맞춤형 IP 추가, 용량 확장·성능 최적화

특히 눈여겨볼 부분은 열 저항이에요. 열이 빠져나가는 것을 방해하는 열 저항값이 HBM5의 10~25% 수준으로 급감하면서, 전체 시스템의 열 저항을 절반 이상 줄일 수 있다고 합니다. AI 데이터센터의 고질병인 발열 문제를 혁신적으로 관리할 수 있다는 얘기죠. 여기에 메모리와 AI 가속기 사이 중간층(인터레이어, Interlayer)에 맞춤형 IP를 추가해 고객사 필요에 맞춰 메모리 용량을 확장하거나 가속기 성능을 최적화하는 맞춤 조율까지 가능하다고 하니, 단순 성능 경쟁을 넘어선 그림이라고 볼 수 있어요.

z낸드-O와 V10 BV-낸드, 삼성의 낸드 혁신

삼성의 수직 적층 전략은 D램에서 끝나지 않습니다. 낸드플래시 쪽에서도 'z낸드-O(zNAND-O)'라는 카드를 꺼냈어요. 제품명 끝의 'z'는 수직 적층을, 'O'는 온디바이스(On-device) AI 환경 최적화를 상징하는데요. 데이터 용량은 D램처럼 크면서 속도는 기존 낸드플래시보다 빠른, 딱 중간 단계의 고성능 메모리 솔루션이라고 보시면 됩니다.

Z낸드-O
Z낸드-O

여기서 진짜 흥미로운 건 비용이에요. 1200억 개의 매개변수(파라미터)를 지닌 GPT 모델 기반 테스트에서, 기존 D램 서버와 동일한 수준의 초당 토큰 처리 속도를 유지하면서도 비용은 6분의 1 수준으로 절감하는 성능을 입증했거든요. 값비싼 D램이나 HBM에 모든 데이터를 저장할 필요 없이 필요한 정보만 빠르게 불러오도록 설계된 결과입니다. 그리고 이 z낸드-O 목업의 기반이 되는 게 바로 10세대 V10 BV-낸드예요. 핵심만 정리하면 이렇습니다.

Z낸드-O
Z낸드-O

  • 400단 이상 초고적층: 업계 최초로 공식 발표한 수직 400단 이상 적층 10세대 V낸드, 13년 전 세계 최초 V낸드를 선보였던 동일한 FMS 무대에서 다시 한계 돌파
  • BV(Bonding Vertical) 접합: 셀(Cell) 어레이 웨이퍼와 주변 회로(페리) 웨이퍼를 각각 별도 제작한 뒤 두 장을 수직으로 접합하는 웨이퍼 본딩 기술
  • 3 스택(3 Stack) 기술: 극단적인 높이를 극복하기 위해 셀을 세 덩어리로 나눠 만든 뒤 수직으로 이어 붙이는 방식
  • 집적도 약 58% 향상: 이전 세대 V9 낸드 대비 동일 면적에 더 많은 데이터 저장, 읽기·쓰기 성능과 I/O 속도도 함께 개선
  • 전력 효율 계보 유지: 매 세대 25% 전력 효율 개선을 보여온 V낸드 제품군의 계보를 이어 미세화 공정·적층 최적화로 에너지 효율 지속 향상 계획

참고로 z낸드-O는 기존 V낸드 수직 적층 기술에 HBM에서 칩을 쌓을 때 쓰는 실리콘관통전극(TSV) 기술을 접목해 여러 칩을 4단 또는 8단으로 3D 패키징한 구조인데요. 뒤에서 다룰 SK하이닉스-샌디스크의 HBF 규격에 대응하는 동일 구조의 경쟁 제품이라는 점, 미리 기억해 두시면 좋겠어요.

SK하이닉스의 계층형 메모리와 HBF

이번엔 반대편 진영으로 가볼까요? 에이전틱 AI 시대를 맞아 데이터 처리 수요가 폭증하자, SK하이닉스는 단일 메모리만으로는 한계가 있다고 진단했습니다. 그리고 해법으로 시스템 전반의 효율을 극대화하는 '계층형 메모리' 구조를 제시했어요. AI 데이터의 중요도와 실제 사용 빈도를 분석한 뒤, 가장 빠르게 처리해야 할 데이터는 초고속 HBM에, 저장 용량이 많이 필요한 데이터는 SSD까지 이어지는 경로에 효율적으로 나눠 저장하는 분산 저장 아키텍처입니다. 모든 데이터를 비싼 고성능 D램에만 올려두는 비효율을 없애고, 병목 현상과 전체 인프라 구축 비용 부담을 낮추는 방식이죠.

HBF
HBF

이 전략의 중심에 있는 게 바로 HBF(High Bandwidth Flash, 고대역폭 플래시)입니다. SK하이닉스가 샌디스크(SanDisk)와 손잡고 세계 최초로 표준 규격을 제정한 차세대 AI 추론 맞춤형 메모리인데요. D램을 수직 적층한 HBM과 달리 낸드플래시 기반으로 설계되어 물리적인 저장 용량을 획기적으로 늘릴 수 있어요. 속도는 극도로 빠르지만 용량 확장에 한계가 있고 가격이 비싼 HBM을 보조해, 대규모 데이터 처리가 필수인 AI 추론 연산 속도를 효율적으로 보강하는 역할을 맡습니다.

핵심 스펙: 낸드 칩을 8단 또는 16단으로 조밀하게 쌓아 단일 패키지 기준 최대 512GB 고용량 구현, 초당 최대 3TB 데이터 전송 대역폭, 글로벌 빅테크의 다양한 AI 가속기 칩셋에 손쉽게 결합할 수 있는 공통 연결 규격 적용

삼성전자도 가만히 있지 않았습니다. V낸드 적층 기술에 TSV를 접목해 4단·8단으로 패키징한 z낸드-O를 FMS에서 함께 공개하며, SK하이닉스-샌디스크 연합의 HBF 규격에 직접 맞불을 놓았거든요. 규격 표준화 경쟁이 본격적으로 시작된 셈이에요.

삼성전자 vs SK하이닉스 패러다임 비교

여기까지 읽으셨다면 감이 오실 거예요. 양사는 AI 메모리 병목 현상을 타개한다는 같은 목표를 향해, 서로 완전히 다른 사상과 설계 접근법을 보여주고 있습니다. 한눈에 비교해 볼게요.

비교 항목 삼성전자 (3D 수직 적층 중심) SK하이닉스 (계층형 대용량 중심)
핵심 솔루션 zHBM / z낸드-O 계층형 메모리 구조 / HBF
물리적 배치 가속기(xPU) 상단에 직접 수직 적층(Z축) HBM 옆에 대용량 저장 공간(HBF, SSD) 배치
핵심 초점 물리적 데이터 전송 거리를 극단적으로 좁혀 전력 효율과 대역폭의 한계 돌파 데이터 중요도별 저장 영역 분리를 통한 메모리 용량 확대 및 비용 부담 최소화
기대 성능 HBM5 대비 GPU당 성능 최대 8배, 전성비 최대 3배 향상 8단/16단 적층으로 단일 최대 512GB 용량, 초당 3TB 전송
발열 제어 전체 열 저항을 기존 대비 절반 이상으로 극감 (HBF의 경우 여러 칩셋에 유연한 공통 연결 설계 적용)

정리하면 이렇습니다. 삼성전자는 종합 반도체 기업(IDM)으로서 파운드리와 메모리 패키징까지 일괄 제어해 거리를 완전히 제로(0)에 가깝게 붙이는 수직 혁신을 선택했고, SK하이닉스는 에이전틱 AI의 막대한 데이터 수용을 위해 공통 규격을 활용한 수평적 용량 확장과 유연한 비용 제어에 집중하고 있어요. 어느 쪽이 정답이라기보다는, 서로 다른 문제 정의에서 출발한 두 갈래 길이라고 보는 게 맞을 것 같습니다.

개발 단계와 원스톱 솔루션 전략

여기서 한 가지 짚고 넘어가야 할 게 있어요. 화려한 수치와 별개로, 현재의 개발 단계를 냉정하게 봐야 한다는 점입니다. zHBM은 실물 개발 이전의 목업(Mock-up, 모형) 단계로 FMS 2026에서 업계 최초로 공개됐고, 실제 양산 제품에서 기술지표가 완벽히 구현되기까지는 개발 시간이 일부 필요할 예정이에요. z낸드-O 역시 온디바이스 AI 환경에서 실시간 초고속 데이터 로딩을 목표로 개발 중이며, 형태와 기능 검증을 위한 목업 단계로 FMS 2026에서 최초 실물 전시된 상태입니다.

 

그럼에도 삼성이 자신감을 보이는 근거는 명확합니다. 바로 '원스톱 솔루션' 전략인데요. 핵심 포인트를 순서대로 정리하면 다음과 같아요.

원스톱 솔루션
원스톱 솔루션

  1. 삼성전자는 업계에서 유일하게 메모리, 로직 반도체 설계, 파운드리(위탁생산), 첨단 패키징(AVP) 공정까지 일괄 수행할 수 있는 종합 반도체 기업(IDM)이다
  2. 이 강점을 활용해 제품 설계 단계부터 양산까지 통합 지원하는 '원스톱 솔루션'을 제공한다
  3. 이를 통해 고객 맞춤형 zHBM의 성능을 극대화하고 개발 기간을 단축한다는 전략이다
  4. zHBM(D램)과 z낸드-O(낸드플래시) 양대 핵심 포트폴리오 모두에서 수직 적층 3D 메모리 패러다임을 확고히 제시한다
  5. 초기 설계부터 양산까지 하나로 연결되는 서비스로 고객사 맞춤형 3D 메모리의 제작 기간 단축과 성능 최적화를 직접 이끌어낸다는 비전이다

결국 목업이라는 현재 단계보다, 설계부터 양산까지 전 과정을 스스로 통제할 수 있다는 구조적 강점에 무게를 두고 봐야 하는 발표라고 생각해요. 13년 전 같은 FMS 무대에서 세계 최초 V낸드를 선보였던 회사가 다시 같은 자리에서 400단 이상 적층을 발표했다는 상징성도 무시할 수 없고요.

정리하며

Q zHBM의 'z'는 무엇을 의미하나?

가로와 세로(X·Y축)라는 평면적 한계를 뛰어넘어 높이(Z축)라는 3차원 공간을 적극적으로 활용하겠다는 의지를 담은 이름입니다. AI 가속기 옆에 메모리를 배치하던 기존 방식 대신, 가속기 상단에 메모리를 직접 수직으로 쌓아 올리는 차세대 구조를 뜻해요.

Q zHBM의 성능은 HBM5와 비교해 어느 정도인가?

아직 개발 중인 차세대 규격 HBM5(8세대)와 비교해 GPU 1개당 데이터 처리 성능이 최대 8배, 전력 효율(전성비)은 최대 3배 향상됩니다. 열 저항값은 HBM5의 10~25% 수준으로 급감해 전체 시스템의 열 저항을 절반 이상 줄일 수 있어요.

Q z낸드-O가 입증한 비용 절감 효과는?

1200억 개의 매개변수를 지닌 GPT 모델 기반 테스트 결과, 기존 D램 서버와 동일한 수준의 초당 토큰 처리 속도를 유지하면서도 비용은 6분의 1 수준으로 크게 절감하는 성능을 입증했습니다. 값비싼 D램이나 HBM에 모든 데이터를 저장할 필요 없이 필요한 정보를 빠르게 불러오도록 설계된 덕분이에요.

Q V10 BV-낸드의 핵심 기술은 무엇인가?

업계 최초로 공식 발표된 400단 이상 적층 10세대 V낸드로, 셀 어레이 웨이퍼와 주변 회로(페리) 웨이퍼를 각각 제작한 뒤 수직 접합하는 BV(Bonding Vertical) 웨이퍼 본딩 기술이 핵심입니다. 셀을 세 덩어리로 나눠 이어 붙이는 3 스택 기술로 극단적인 높이를 극복했고, V9 대비 집적도가 약 58% 향상됐어요.

Q HBF의 핵심 스펙은 어떻게 되나?

SK하이닉스가 샌디스크와 세계 최초로 표준 규격을 제정한 낸드플래시 기반 메모리로, 낸드 칩을 8단 또는 16단으로 쌓아 단일 패키지 기준 최대 512GB 용량과 초당 최대 3TB 전송 대역폭을 구현합니다. 글로벌 빅테크의 다양한 AI 가속기 칩셋에 결합할 수 있는 공통 연결 규격도 함께 적용됐어요.

Q zHBM은 지금 바로 구매할 수 있는 제품인가?

아직은 아닙니다. zHBM은 실물 개발 이전의 목업(모형) 단계로 FMS 2026에서 업계 최초로 공개된 상태이며, 실제 양산 제품에서 기술지표가 완벽히 구현되기까지는 개발 시간이 일부 필요할 예정이에요. z낸드-O 역시 형태와 기능 검증을 위한 목업 단계로 최초 실물 전시됐습니다.

마무리

FMS 2026이 던진 메시지는 분명해 보입니다. 에이전틱 AI가 만들어내는 데이터 폭증 앞에서, 메모리는 더 이상 '옆자리'에 머물 수 없다는 것. 삼성전자는 가속기 위로 올라가는 zHBM과 z낸드-O, 400단 이상 V10 BV-낸드로 물리적 거리를 제로에 가깝게 붙이는 수직 혁신을 택했고, SK하이닉스는 샌디스크와의 HBF 표준 규격과 계층형 메모리로 용량과 비용의 균형을 잡는 길을 골랐습니다. 아직 zHBM과 z낸드-O가 목업 단계라는 점에서 실제 양산까지는 시간이 필요하겠지만, IDM의 원스톱 솔루션과 공통 규격 연합이라는 서로 다른 무기가 어떤 승부를 만들어낼지... 솔직히 앞으로가 더 궁금해지는 대목이에요. 메모리 장벽을 누가 먼저, 어떤 방식으로 허무는지에 따라 AI 인프라 시장의 판도가 달라질 테니, 다음 발표들도 함께 지켜보시죠.

댓글