다음 내용이 궁금하다면?
불편하시다면 뒤로 가기를 눌러주세요
[해양수산부 제공, 재판매 및 DB 금지]
(서울=연합뉴스) 차민지 기자 = 쏘카[403550]는 자연어처리 분야 세계 최고 권위를 자랑하는 'EMNLP 2023'에서 채택된 쏘카 인공지능(AI)팀의 논문이 우수상을 받았다고 8일 밝혔다.
쏘카 AI팀은 지난 7일 열린 MRL 워크숍에 참가해 '소규모 언어 데이터를 활용한 다국어 음성 파운데이션 모델 학습 방법'을 제안했다.
이 방법은 '복권 가설'이라는 경량화 기법을 이용해 거대 모델에서 타깃으로 삼은 언어와 관련된 파라미터(매개변수)만을 추출하는 것이 핵심이다.
도메인에 관련된 지식을 추가 학습시키기 위해서는 LoRA(Low-Rank Adaption) 기법을 이용한다.
쏘카 관계자는 "LoRA 기법을 통해 약 2% 만의 파라미터만으로 학습할 수 있어 적은 양의 연산 자원에도 기존과 유사한 성능을 달성할 수 있다는 사실을 밝혔다"고 말했다.
chacha@yna.co.kr
Copyright 연합뉴스 All rights reserved. 무단 전재 및 재배포 금지.
인기상품 확인하고 계속 읽어보세요!
5
원치 않을 경우 뒤로가기를 눌러주세요.