학습 넘어 추론 AI 경쟁 본격화…전력·비용 효율 강점 부각

국산 NPU·LLM 결합 확산…AI 공급망 자립 기대

[연합뉴스 자료사진. 재판매 및 DB 금지]

(서울=연합뉴스) 박상현 기자 = 인공지능(AI) 시장의 무게중심이 모델 학습에서 실제 서비스를 위한 추론으로 이동하면서 국산 신경망처리장치(NPU)에 대한 관심과 중요성이 커지고 있다.

NPU는 학습된 AI 추론 작업에 특화된 반도체로, 그래픽처리장치(GPU)와 비교해 전력 소모가 적고 비용 효율이 높아 GPU의 의존도를 낮출 대안으로 평가된다.

국산 NPU 도입은 국가 경쟁력과 직결된 사안으로, AI 패권 경쟁에서 주도권을 쥐기 위해서라도 조속히 추진해야 한다는 견해가 나온다.

◇ 공공 현장 파고드는 국산 NPU, AI 주권 확립 필수품으로

정부는 국산 NPU를 AI 주권을 지킬 핵심 하드웨어로 판단해 공공 현장 보급에 속도를 내고 있다.

올해부터 5년간 공공이 보유한 5만여 대의 폐쇄회로(CC)TV를 NPU 기반 AI 모니터링 체계로 전환하는 사업이 추진된다. 국방 분야에서도 해군 CCTV를 국산 NPU 기반 AI 관제 체계로 교체하는 사업이 시행된다.

김은주 한국지능정보사회진흥원(NIA) 본부장은 지난 14일 "국산 NPU는 우리 기술로 AI 인프라를 개발하고 운영하기 위한 AI 주권의 핵심 기반"이라며 "공공 부문의 선도적 도입이 국산 NPU 초기 시장을 여는 마중물이 될 것"이라고 강조했다.

이어 "국산 NPU의 성패는 칩의 성능뿐만 아니라 소프트웨어 생태계, 공공·민간 레퍼런스를 포함한 산업 전반의 역량에 달렸다"며 관련 분야의 동반 성장이 필요하다고 제언했다.

AI 업계에서는 소프트웨어 생태계의 엔비디아 '쿠다'(CUDA) 종속과 고객 레퍼런스, 자본력과 전문 인력 부족 등을 국산 NPU 확산의 과제로 꼽고 있다.

[한국경제인협회 제공. 연합뉴스 자료사진. 재판매 및 DB 금지]

◇ 국산 NPU로 구동한 국산 LLM…AI 자립 가능성 높여

기업들 사이에서도 NPU를 적극적으로 활용하려는 움직임이 나타나고 있다.

국내 업체인 업스테이지와 퓨리오사AI, 포털 '다음' 운영사 AXZ는 지난 15일 업스테이지의 대규모언어모델(LLM) '솔라'를 퓨리오사AI의 NPU '레니게이드'(RNGD)에서 구동해 다음의 실시간 검색 요약 서비스에 적용한 사례를 소개했다.

이들 업체는 국산 NPU로도 엔비디아 GPU와 유사한 성능을 구현하고 LLM 토큰 처리 비용을 대폭 낮출 수 있다는 점을 강조했다. 레니게이드는 솔라를 구동하며 하루 약 5억개의 토큰을 처리하고 있다.

백준호 퓨리오사AI 대표는 세계 AI 시장을 장악하고 있는 엔비디아 제품과 대등한 성능을 구현하기 위해 자체 실리콘뿐 아니라 소프트웨어 스택을 함께 설계했다며 향후 가격을 절반 이하로 낮출 것이라고 말했다.

그러면서 양산 중인 레니게이드를 연내에 1만장 정도 공급할 수 있는 만큼 국내 기업들이 국산 NPU를 적극적으로 도입해 달라고 요청했다.

국산 NPU로 국산 LLM을 구동한 결과물이 일상에 자리 잡으면 우리나라의 AI 자립 가능성은 한층 커질 것으로 보인다.

◇ 피지컬 AI 가동 좌우할 '하이퍼-AI 네트워크' 구축

정부는 산업 현장에서 AI를 구현하기 위해 '하이퍼-AI 네트워크' 구축에도 착수했다.

5세대 이동통신 단독모드(5G SA)와 AI 기반 무선 접속망(AI-RAN)을 결합해 피지컬 AI 서비스를 실증하고 향후 적용 범위를 휴머노이드까지 확대할 방침이다.

이를 위해 정부는 SK텔레콤[017670]과 KT[030200]를 주관 기관으로 하는 컨소시엄 2개를 선정했다.

SK텔레콤 컨소시엄은 AI-RAN 기반 하이퍼-AI 선도망을 마련하고 다양한 피지컬 AI 서비스를 실증한다. 실증 대상은 사족보행 순찰 로봇, 무인 자율 이송 서비스, 휴머노이드 저전력 모드 등 3종이다.

KT 컨소시엄은 AI 기반 자율 운용 네트워크를 확립해 조선소 등의 산업 현장에서 많은 로봇이 안정적으로 움직일 수 있는 통신 환경을 검증한다.

통신망 데이터를 AI가 실시간으로 분석하고 장애를 자동 조치하는 'AI 코어 오케스트레이터'를 개발하는 것이 KT 컨소시엄의 주된 임무다.

정부는 이번 사업을 통해 기존 네트워크와 업로드 속도, 지연 변동 폭, 자율운용성 등을 비교·검증해 피지컬 AI에 적합한 네트워크 성능을 확보한다는 구상을 하고 있다.

psh59@yna.co.kr

Copyright 연합뉴스 All rights reserved. 무단 전재 및 재배포 금지.