연합뉴스

"LG 엑사원 3.0, 엔비디아 GPU와 프레임워크로 구축"

입력 2024-09-24 09:29:36

다음 내용이 궁금하다면?

불편하시다면 뒤로 가기를 눌러주세요



(서울=연합뉴스) 조성미 기자 = 엔비디아가 LG AI연구원의 최신 생성형 AI 모델 '엑사원 3.0'에 자사 그래픽처리장치(GPU) H100 제품과 네모(NeMo) 프레임워크가 활용됐다고 24일 밝혔다.



엔비디아에 따르면 네모는 어디서든 생성형 AI 모델을 구축한 뒤 배포할 수 있는 '엔드 투 엔드' 프레임워크로, 거대언어모델(LLM)을 빠르게 훈련하고 맞춤화하며 규모별로 배포해 설루션 구축 시간을 단축할 수 있다.


엔비디아는 또 엑사원 3.0이 AI 플랫폼에서 최신 LLM의 추론 성능을 가속화하고 최적화하는 자사의 소프트웨어 개발 도구(SDK) '텐서RT-LLM'를 기반으로 한다고 밝혔다.


지난달 발표된 엑사원 3.0은 메타의 라마(Llama) 등 동급 규모 오픈 소스 AI 모델과 비교해 한국어와 영어에서 우수한 벤치마크 성능을 갖췄다는 평가를 받았으며 연구 목적으로 누구나 자유롭게 활용할 수 있다.




엔비디아 AI 프레임워크 이미지

[엔비디아 제공. 재판매 및 DB 금지]


csm@yna.co.kr



인기상품 확인하고 계속 읽어보세요!

5

원치 않을 경우 뒤로가기를 눌러주세요.

연합뉴스 콘텐츠 더보기

해당 콘텐츠 제공사로 이동합니다.

많이 본 최근 기사

관심 많은 기사