리벨리온, 엔비디아·SKT와 한국형 소버린 AI 기반 넓힌다

다음 내용이 궁금하다면?

불편하시다면 뒤로 가기를 눌러주세요

국산 NPU·AI 모델에 글로벌 인프라·데이터센터 운영 역량 결합

국내 산업별 특화 AI 서비스 대규모 제공 추진

(서울=연합뉴스) 권하영 기자 = 리벨리온이 엔비디아, SK텔레콤[017670]과 함께 국산 신경망처리장치(NPU)를 기반으로 한 소버린 AI 인프라 고도화에 나선다.

리벨리온은 9일 서울 강남구 코엑스에서 열린 '엔비디아 AI 데이'에서 이 같은 3사 협력 계획을 발표했다.

엔비디아의 개방형 인프라 플랫폼과 리벨리온의 국산 AI 반도체, SK텔레콤의 AI 데이터센터·모델·서비스 역량을 '엔비디아 NV링크 퓨전(NVLink Fusion)' 기술 기반으로 결합하는 방식이다.

리벨리온은 차세대 NPU 'R200'을 NV링크 퓨전을 통해 엔비디아 플랫폼에 연결하고, 엔비디아의 표준 랙(서버용 수납장) 설계인 MGX 랙 아키텍처를 적용한 랙 단위 추론 시스템을 개발한다.

SK텔레콤은 AI 데이터센터 운영 경험과 자체 AI 모델·서비스 역량을 바탕으로 이 시스템을 실제 환경에 적용할 계획이다.

3사는 AI 추론 과정을 단계별로 나눠 각기 적합한 반도체에 맡기는 분산형(disaggregated) 추론 방식도 함께 도입한다.

대규모 연산이 필요한 프리필(prefill) 단계는 GPU가 맡고, 답변을 하나씩 생성하는 디코드(decode) 단계는 전력 대비 효율이 높은 리벨리온 NPU가 담당하는 구조다.

이를 통해 처리량과 전력 효율을 동시에 끌어올려 총소유비용(TCO)을 낮추고, 궁극적으로 '소버린 AI 토큰 팩토리(Sovereign AI Token Factory)'를 완성하는 것이 목표다.

과학기술정보통신부의 지원을 바탕으로 성사된 이번 협력은 국산 AI 반도체·모델과 글로벌 인프라 기술, 데이터센터 운영 노하우를 결합한 새로운 형태의 소버린 AI 협력 모델을 제시한다.

3사는 각자의 개발·설계·운영 역량을 모아 상용화 속도를 높이고, 한국어와 국내 데이터, 산업별 특화 수요에 맞춘 AI 서비스를 대규모로 제공할 수 있는 기반을 넓혀갈 방침이다.

리벨리온은 이번 파트너십을 토대로 수조 개 매개변수(파라미터) 규모의 전문가혼합(MoE) 모델 등 프론티어 AI의 저지연·고효율 추론에 최적화한 차세대 NPU 'R200' 개발과 상용화에 속도를 낸다는 구상이다.

NV링크 퓨전을 활용해 랙 내부 NPU를 엔비디아의 초고속 스케일업 네트워크에 직접 연결, 독자 반도체의 추론 성능을 극대화하는 방식으로 2028년 R200 시스템 도입을 목표로 개발을 이어간다.

박성현 리벨리온 대표는 "이번 발표는 대한민국의 소버린 AI 생태계를 확장하는 중요한 전환점"이라며 "독자적인 기술력을 바탕으로 엔비디아, SKT와 차세대 AI 인프라를 함께 설계하고, 한국이 만든 기술이 세계의 AI를 움직이는 핵심 축으로 성장하도록 하겠다"고 말했다.

kwonhy@yna.co.kr

위대한상상, 김혜정 신임 대표 선임…조형권 대표와 공동 엘앤씨바이오 3분기 영업이익 98억원…작년 동기 대비

인기상품 확인하고 계속 읽어보세요!

5

원치 않을 경우 뒤로가기를 눌러주세요.