다음 내용이 궁금하다면?
불편하시다면 뒤로 가기를 눌러주세요
"삼성이 파는건 비트 아닌 대역폭"…zHBM 상용화, 시장예상 앞선 2029년 제시
[더 식스파이브 서밋 엑스 계정 캡처, 재판매 및 DB 금지]
(샌프란시스코=연합뉴스) 권영전 특파원 = 삼성전자가 인공지능(AI) 인프라의 패러다임이 연산 중심에서 메모리 중심으로 근본적으로 변화하고 있다고 지적했다.
삼성전자 DS부문 미주총괄법인(DSA)의 조상연 총괄(부사장)은 27일(현지시간) 온라인으로 열린 미국의 정보기술(IT) 콘퍼런스 '더 식스파이브 서밋 2026'에서 연사로 참석해 이같이 밝혔다.
조 총괄은 'AI 한계 재정의: 삼성의 메모리·전력·시스템 설계'를 주제로 진행한 30분 분량 대담에서 "AI 추론 서비스에서 매우 중요한 요소인 '조직이 필요로 하는 초당 토큰 수'가 메모리 대역폭에 의해 결정된다는 사실을 업계는 아직 제대로 이해하지 못하고 있다"고 지적했다.
그는 데이터가 메모리와 연산 장치 사이를 얼마나 빠르게 이동할 수 있는지를 보여주는 '메모리 대역폭'이 이용자 수, 요청의 수, 응답 속도, 맥락 보존·처리량 등을 좌우한다고 설명했다.
AI 시스템이 무엇을 제공할 수 있는지, 또 그 과정에서 비용이 얼마나 드는지 결정하는 것도 메모리 대역폭이라는 것이다.
이어 그는 "삼성은 '비트'(bit·데이터의 단위)를 판매하는 것이 아니라 '대역폭'을 판매하고 있다"며 "4년 뒤 성공할 애플리케이션은 메모리 양이 가장 많은 애플리케이션이 아니라 자신이 가진 메모리 대역폭을 어떻게 활용할지 알아낸 애플리케이션일 것"이라고 내다봤다.
이에 따라 그는 메모리에서 출발해 대역폭을 정의하고, 이를 가장 효과적으로 활용하는 방법을 모색하는 '메모리 중심 컴퓨팅'을 대안으로 제시했다.
연산(컴퓨팅) 자원을 먼저 선택하고, 메모리 용량을 정한 뒤 나중에 패키징과 전력을 고민했던 순서를 뒤집어서 메모리를 맨 앞에 두고 사고해야 한다는 주장이다.
메모리 대역폭을 높이기 위한 제품으로는 최근 삼성전자가 소개한 'zHBM'을 들었다.
zHBM은 연산을 맡은 AI 가속기(xPU) 옆에 고대역폭 메모리(HBM)를 연결하는 기존 방식과 달리 아예 가속기 위에 HBM을 쌓아 올린 아키텍처로, 데이터 이동 거리를 최소화해 대역폭을 극대화한 제품이다.
그는 "현재 1세대 zHBM 사양을 정의하고 있으며, 이를 기반으로 한 미래 제품은 2029년 이후 등장할 것으로 예상한다"고 말했다.
이는 2030년께 상용화할 것으로 봤던 시장의 예측보다 1년 이른 일정이다.
다만 그는 발열 문제를 이 제품 개발 과정에서 해결해야 할 주요 과제로 언급하고, 이를 위해 하이브리드구리접합(HCB) 기술 등을 적용하고 있다고 부연했다.
그는 메모리 대역폭과 더불어 중요성이 높아진 요소로 첨단 패키징을 꼽았다.
공정 미세화만으로는 AI가 요구하는 성능과 전력 효율 향상을 달성하는 데 한계에 다다른 상황에서 여러 다이와 메모리, 서로 다른 공정 노드를 하나의 시스템으로 통합하는 패키징 기술의 중요성이 커지고 있다는 것이다.
그는 "일부 기업은 베이스 다이를 외부에 위탁하고 공정 간 인수인계(핸드오프)를 관리한다"며 "반면 삼성은 시스템 수준, 칩 수준, 메모리 수준 등 모든 단계에서 설계 목표를 실현하기 위해 통합 과정을 직접 관리한다"고 강조했다.
예를 들어 HBM4만 해도 첨단 4나노 공정으로 베이스 다이를 사내에서 설계하고, 조립과 패키징까지 원스톱으로 관리해 전력 효율과 신호 무결성, 성능, 대역폭 등 시스템 전반의 목표를 최적화할 수 있다는 것이다.
한편 조 총괄은 미국 텍사스주 테일러(Taylor)시에 구축하는 두 번째 반도체 생산공장 '테일러 팹2'를 수년 내 가동해 2㎚(나노미터)를 포함한 첨단 공정 노드 생산능력을 확대하고 미국 고객을 지원할 계획이라고도 말했다.
comma@yna.co.kr
Copyright 연합뉴스 All rights reserved. 무단 전재 및 재배포 금지.
인기상품 확인하고 계속 읽어보세요!
원치 않을 경우 뒤로가기를 눌러주세요.