[AI프리즘] 엔비디아, 내 PC에서 일하는 AI 비서 띄운다…로컬 AI 공략

다음 내용이 궁금하다면?

불편하시다면 뒤로 가기를 눌러주세요

개인정보 보호·토큰 비용 절감 강점…RTX 스파크로 실행 지원

일정 관리부터 영상 제작까지 시연…고도 추론은 클라우드 활용

(서울=연합뉴스) 권하영 기자 = 엔비디아가 개인용 PC에서 인공지능(AI) 에이전트를 직접 실행하는 로컬 AI 기술을 앞세워 차세대 PC 시장 공략에 나섰다.

클라우드에 의존하지 않고도 AI 비서를 활용하고 콘텐츠를 제작할 수 있는 새로운 PC 사용 환경을 제시한 것이다.

◇ 내 PC에서 실행하는 AI 비서…비용·데이터 보호 강점

제프 옌 엔비디아 아시아태평양(APAC) 테크니컬 마케팅 디렉터는 6일 서울 JW 메리어트 호텔에서 열린 'RTX 스파크' 기자간담회에서 로컬 AI 에이전트의 확산과 이를 뒷받침하는 PC 기술을 소개했다.

옌 디렉터는 "올해는 로컬 에이전트의 해라고 할 수 있을 만큼 중요한 변곡점이었다"며 "AI가 우리가 PC와 상호작용하는 방식을 바꾸고 있다"고 말했다.

그는 "기존 대규모언어모델(LLM) 기반 챗봇과 달리 AI 에이전트는 사용자의 목표를 이해하고 필요한 작업을 추론한 뒤 여러 도구를 활용해 실제 행동까지 수행할 수 있다"며 "AI 에이전트는 PC를 단순한 도구에서 함께 일하는 팀원으로 바꾸고 있다"고 강조했다.

특히 로컬 AI의 장점으로 개인정보 보호와 오프라인 사용, 낮은 응답 지연, 비용 절감 등을 꼽았다. 개인 PC에서 AI 모델을 실행하면 데이터를 외부 클라우드로 전송할 필요가 없고 인터넷 연결이 없는 환경에서도 작업을 이어갈 수 있다는 것이다.

옌 디렉터는 "로컬에서 실행하면 토큰 사용량에 따른 비용을 걱정할 필요가 없다"며 "하드웨어만 갖추면 사실상 전기요금만으로 AI를 활용할 수 있다"고 설명했다. 클라우드 AI 서비스의 사용량 기반 과금과 달리 로컬 AI는 반복적인 사용에 따른 추가 비용 부담이 적다는 취지다.

다만 모든 AI 작업을 로컬에서 처리하는 것은 아니다. 엔비디아는 AI 작업의 특성에 따라 적합한 모델을 선택하는 기술인 '네모 스위치야드'를 소개하며 일반적인 작업은 PC에서, 고도의 추론 작업은 클라우드 기반 최첨단 AI 모델을 활용하는 하이브리드 방식을 제시했다.

◇ 엔비디아, RTX 스파크로 로컬 AI 생태계 확장

엔비디아는 이러한 로컬 AI 활용을 뒷받침하는 하드웨어로 'RTX 스파크'를 내세웠다. 블랙웰 그래픽처리장치(GPU)와 고효율 그레이스 중앙처리장치(CPU)를 결합한 슈퍼칩으로, 최대 128GB의 통합 메모리와 1페타플롭의 AI 컴퓨팅 성능을 지원한다.

마이크로소프트(MS)와 협력해 주요 AI 에이전트 6종을 RTX 스파크에 최적화했으며, 윈도 환경에서 AI 에이전트를 쉽게 설치하고 실행할 수 있도록 개발자용 플레이북과 블루프린트도 제공한다.

이날 현장에서는 일정 관리를 지원하는 '치프 오브 스태프'와 로보틱스 개발을 돕는 '마이크로덕' 등 AI 에이전트 시연이 진행됐다. '비디오 프로듀서 에이전트'와 '뮤직 퍼포먼스 리이매진드'를 활용한 영상 제작 사례도 선보였다.

참석자들은 MS 서피스 랩톱 울트라, 에이수스 프로아트 P16, MSI 프레스티지 N16 플립 AI+, 레노버 요가 프로 9n 등 RTX 스파크 노트북을 직접 체험했다. 'NBA 2K27'과 '아이온2' 등을 통한 게임 시연도 이뤄졌다.

RTX 스파크는 지난 10월 16일 서울 코엑스에서 열린 출시 행사를 통해 국내 판매를 시작했다.

kwonhy@yna.co.kr

한국타이어앤테크놀로지 3Q 영업이익 5천988억원…2. 넥슨, '테일즈위버 모바일' 공개…FGT 참가자 모집

인기상품 확인하고 계속 읽어보세요!

5

원치 않을 경우 뒤로가기를 눌러주세요.