다음 내용이 궁금하다면?
불편하시다면 뒤로 가기를 눌러주세요
학습데이터 선별·분배 기술 개발…학습 시간 최대 69.6% 단축
[한국과학기술원(KAIST) 제공. 재판매 및 DB 금지]
(대전=연합뉴스) 김준호 기자 = 한국과학기술원(KAIST)은 전산학부 이재길 교수 연구팀이 학습에 비슷한 영향을 주는 데이터를 묶어 선별하고, 여러 그래픽처리장치(GPU)에 골고루 배분하는 대규모 언어모델 미세조정 기술인 '클러스터'(CluSTER)를 개발했다고 2일 밝혔다.
대규모 언어모델을 코딩이나 의료 등 특정 분야에 활용하려면 관련 자료를 추가로 학습시켜야 하는데, 이를 '미세조정'이라고 한다.
미세조정은 폭넓은 지식을 갖춘 인공지능((AI)에게 코딩 문제와 풀이, 의료 분야의 질문과 답변 등을 공부시켜 해당 분야의 일을 더 잘하도록 만드는 과정이다.
이 과정에는 많은 계산이 필요해 여러 GPU가 데이터를 나눠 처리한다.
GPU는 AI 학습에 필요한 계산을 빠르게 수행하는 반도체다.
그러나 자료를 무작위로 나누면 학습 효과가 비슷한 데이터를 여러 GPU가 반복해서 처리할 수 있다.
연구팀은 '얼마나 많은 자료를 공부시키느냐'와 함께 '어떤 자료를 골라 어떻게 나눠주느냐'에 주목했다.
연구팀은 코딩·의료 분야의 학습 데이터 3종을 활용해 약 70억개와 130억개의 매개변수를 가진 대규모 언어모델을 미세조정했다.
매개변수는 AI가 학습하면서 조정하는 내부 수치로, 학습한 지식을 답변에 반영하는 데 쓰인다. 연구팀은 총 8개의 성능 평가 시험을 통해 기술의 효과를 확인했다.
실험에서는 전체 데이터의 약 31%만 선별해 학습해도 모델 성능을 거의 유지했으며, 학습 시간을 최대 69.6% 단축했다.
최대 단축률을 적용하면 기존에 10시간이 걸리던 학습을 약 3시간 만에 마칠 수 있는 수준이라고 연구팀은 설명했다.
향후 기업과 연구 기관이 코딩 지원이나 의료 분야 질문·답변 등 특정 목적에 맞는 AI를 개발할 때 추가 학습에 드는 시간과 GPU 사용 비용을 줄이는 데 도움이 될 것으로 연구팀은 기대하고 있다.
이재길 교수는 "AI 학습 효율을 높이기 위해서는 GPU를 더 많이 사용하는 것뿐만 아니라 어떤 데이터를 학습할지 똑똑하게 선택하는 것도 중요하다"며 "이번 연구는 기존 GPU 자원을 더 효율적으로 활용해 대규모 AI 모델의 학습 부담을 줄일 수 있다는 점에서 의미가 있다"고 말했다.
kjunho@yna.co.kr
Copyright 연합뉴스 All rights reserved. 무단 전재 및 재배포 금지.
인기상품 확인하고 계속 읽어보세요!
원치 않을 경우 뒤로가기를 눌러주세요.