다음 내용이 궁금하다면?
불편하시다면 뒤로 가기를 눌러주세요
스마트폰용 온디바이스 AI 최적화…상업적 활용도 허용
(서울=연합뉴스) 한상용 기자 = 카카오[035720]는 자체 개발한 인공지능(AI) 모델 '카나나'의 경량 언어모델(SLM) 4종을 오픈소스로 공개했다고 28일 밝혔다.
이번에 공개된 모델은 '카나나-2' 경량 언어모델 시리즈인 카나나-2-1.3B-베이스, 카나나-2-1.3B-인스트럭트, 카나나-2-3B-베이스, 카나나-2-3B-인스트럭트 등 4종이다.
카카오는 이들 모델을 글로벌 AI 개발 플랫폼 허깅페이스에 공개했다.
이번 모델은 스마트폰 등 디바이스에서 구동할 수 있도록 설계됐다.
카카오는 이번 모델이 대부분의 대표 벤치마크에서 비슷한 규모의 최신 오픈소스 모델보다 우수한 성능을 기록했다고 설명했다.
특히 이번에 공개한 일부 모델과 함께 개발한 더 작은 규모의 카나나-2-0.9B-인스트럭트는 대화와 지식, 코드, 수학, 지시 수행, 도구 호출 등 실제 서비스 활용 역량 평가에서 알리바바의 큐원과 구글의 젬마 등 동급 글로벌 모델과 경쟁력 있는 성능을 보였다고 부연했다.
카카오가 자체 개발한 한국어 특화 토크나이저도 적용됐다.
토크나이저는 AI 모델이 텍스트를 처리할 때 문장을 잘게 쪼개는 단위를 결정하는 기술이다.
한국어에 최적화된 토크나이저를 사용하면 같은 문장을 더 적은 단위로 처리할 수 있어 연산 속도가 빨라지고 비용도 줄어든다.
카카오는 자체 토크나이저를 적용해 기존보다 한국어 처리 효율을 30% 이상 개선했다고 전했다.
스마트폰처럼 메모리와 연산 자원이 제한적인 온디바이스 환경에서 긴 대화를 처리할 수 있도록 '슬라이딩 윈도 어텐션' 구조도 도입했다.
카카오는 이를 통해 최대 3만2천 토큰 길이 수준의 대화에서도 메모리 사용량을 최대 72.7% 절감하면서 안정적인 성능을 유지할 수 있다고 설명했다.
카카오는 현재 '카나나 인 카카오톡'과 카카오톡 대화·통화 요약, AI 국민비서 등 다양한 서비스에 자체 경량 모델을 활용하고 있다.
이번 모델은 상업적 활용을 허용하는 '카나나 오픈 라이선스'로 배포된다.
개발자와 스타트업, 연구기관 등은 비용 부담 없이 모델을 활용할 수 있다.
노병석 카카오 유니파이드 파운데이션 모델 성과리더는 "이번 오픈소스 공개 모델들이 더 많은 개발자와 기업의 새로운 AI 서비스 개발로 이어져 국내 AI 생태계 활성화에 기여할 수 있기를 바란다"고 말했다.
gogo213@yna.co.kr
Copyright 연합뉴스 All rights reserved. 무단 전재 및 재배포 금지.
인기상품 확인하고 계속 읽어보세요!
원치 않을 경우 뒤로가기를 눌러주세요.