메모리장벽 돌파구는 Z축…닮은꼴 해법에도 전략 갈린 삼전닉스

불편하시다면 뒤로 가기를 눌러주세요

삼성, GPU 위에 HBM 얹은 'zHBM' 공개…하이닉스도 3D 적층 D램 제시

'내재화' 주력한 삼성, 온디바이스 AI 정조준…"집안에 미니 데이터센터를"
'개방·표준화' 추구한 하이닉스, 샌디스크와 협력해 HBF 표준 규격 제시

(샌타클래라=연합뉴스) 권영전 특파원 = 4일(현지시간) 미국 캘리포니아주 샌타클래라 컨벤션센터에서 개막한 메모리 행사 'FMS 2026' 참석자들의 관심은 인공지능(AI) 모델 운용 과정에서 생긴 '메모리 장벽'(Memory Wall)을 어떻게 돌파하느냐에 쏠렸다.

AI가 인간의 질문에 단순히 답변하는 단계를 넘어 인간 대신 계획을 세우고 실행하는 에이전트 단계가 되면서, 연산 장치인 AI 가속기보다 데이터를 보관하고 나르는 메모리의 중요성이 커졌다는 게 그 배경이다.

아무리 똑똑한 두뇌가 있어도 일거리가 담긴 수많은 자료를 제때 전달받지 못하면 결국 두뇌를 제대로 활용할 수 없기 때문이다.

삼성전자는 이와 같은 메모리 장벽의 돌파구로 평면상의 X축과 Y축을 넘어 수직 방향의 Z축을 활용하는 방법을 택했다.

기존 고대역폭 메모리(HBM)는 그래픽처리장치(GPU)와 같은 AI 가속기 옆에 나란히 배치해 데이터를 주고받는 방식이었다.

거리를 극단적으로 줄이고 대역폭도 최대한 늘렸지만, 그래도 어쩔 수 없이 생기는 물리적 거리 때문에 전자 신호가 오가는 데 시간이 걸리고 전력 소모도 많았다.

삼성전자가 이날 내놓은 'zHBM'은 아예 GPU 위에 HBM을 얹어 이동 거리를 '0'에 가깝게 수렴하는 기술을 적용했다.

옆 건물에서 데이터를 가져오는 것보다 같은 건물의 위층에서 엘리베이터로 데이터를 가져오는 것이 훨씬 빠르고 비용도 덜 든다는 아이디어에서 착안한 기술이다.

삼성전자에 따르면 zHBM은 2028년에 양산될 것으로 예상되는 8세대 'HBM5'와 비교하더라도 성능이 최대 8배, 전력 효율이 최대 3배에 달한다.

김경륜 삼성전자 D램 개발실 상무는 "지금의 HBM이 수년 안에 한계에 부딪히리라는 모두가 알고 있는데 이를 어떤 기술로 돌파할 것인가를 생각해보면 3차원(3D)밖에 없다"고 말했다.

다만 AI 가속기 위에 메모리를 얹을 때 생길 수 있는 발열 문제를 고려해 HBM보다 D램 단수를 줄이는 방식을 채택했다는 설명이다.

김 상무는 "지금 고객들이 원하는 바를 보면 데이터 밀도(단수)보다는 발열 문제나 대역폭 문제에 수요가 더 강한 상황"이라고 덧붙였다.

SK하이닉스가 'G0.5' 제품으로 내놓은 3D 적층 D램도 유사한 해법을 택했다.

대역폭은 크지만 용량이 작아 G0로 불리는 S램과 G1으로 지칭되는 기존 HBM 사이 틈새를 메우는 제품이라는 의미로 G0.5라는 이름을 붙였다고 회사 측은 소개했다.

또한 삼성전자와 SK하이닉스는 천정부지로 치솟은 D램을 대체하는 메모리로 나란히 낸드플래시를 들고나왔다.

초거대 AI가 작동할 때 생성되는 대량의 토큰(AI 연산의 단위)을 모두 비싼 D램에 담기는 어렵기 때문에 속도는 D램보다 느리지만 가격이 저렴하고 용량이 큰 낸드플래시를 대안으로 제시한 셈이다.

SK하이닉스는 HBM과 D램 사이를 메울 'G1.5' 제품으로 고대역폭 낸드플래시(HBF)를 선보였고, 삼성전자도 낸드플래시를 수직으로 쌓고 신경망처리장치(NPU)와 일체형으로 만든 'z낸드-O'(zNAND-O)를 공개했다.

다만 SK하이닉스의 HBF는 서버용 제품인 반면, 삼성전자의 z낸드-O는 기기 내장형(온디바이스) AI에 최적화한 제품이라는 차이는 있다.

두 회사 모두 D램과 낸드플래시를 수직으로 쌓는 방식을 택했지만, 이를 실제 생산·공급하고 생태계를 만드는 방법론은 엇갈렸다.

메모리뿐 아니라 파운드리(반도체 수탁생산) 사업까지 보유한 삼성전자는 설계부터 제조, 패키징까지 모두 해낼 수 있는 원스톱 설루션을 앞세운다.

zHBM을 비롯한 초정밀 3D 구조를 구현하려면 메모리 기술뿐 아니라 파운드리 공정과 첨단 패키징 등이 유기적으로 맞물려야 하는데, 세계에서 유일하게 이 모든 과정을 한 지붕 아래서 처리할 수 있다는 장점을 십분 활용한다는 계획이다.

갤럭시 스마트폰을 비롯한 개인형 AI 기기도 생산하는 기업답게 기기 내장형 AI 시장을 정조준한다는 점 역시 차별점으로 꼽힌다.

현재웅 삼성전자 메모리사업부 그룹장(상무)은 "개인마다 집안에 미니 데이터센터를 갖게 하겠다는 게 우리의 비전"이라며 고가의 클라우드 서버 요금을 내지 않고도 완벽한 AI 에이전트를 돌릴 수 있는 시대를 열겠다는 목표를 밝혔다.

반면 SK하이닉스는 개방형 동맹과 표준화를 추구하고 있다.

SK하이닉스가 이번 행사에서 샌디스크 등과 함께 내놓은 HBF 표준 규격을 세계 최대 개방형 데이터센터 기술 협력체인 OCP(Open Compute Project)를 통해 공개한 것도 이 같은 전략의 결과물이다.

comma@yna.co.kr

인기상품 확인하고 계속 읽어보세요!

5

원치 않을 경우 뒤로가기를 눌러주세요.