다음 내용이 궁금하다면?
불편하시다면 뒤로 가기를 눌러주세요
오픈라우터와 국내 첫 공식 협력…모델 선택부터 비용 관리까지
자체 기술로 토큰 사용량 최대 25% 절감…국내 데이터센터서 추론 지원
[촬영 안철수] 2026.3
(서울=연합뉴스) 오지은 기자 = KT[030200]가 국내외 인공지능(AI) 모델 500개 이상을 한곳에서 이용하고 사용량과 비용까지 통합 관리할 수 있는 AI 플랫폼 '토큰팩토리'를 선보였다.
KT는 27일 서울 종로구 광화문 웨스트빌딩에서 AI 모델 선택부터 비용 관리, 보안 기능까지 제공하는 KT 토큰팩토리를 공개했다고 밝혔다.
토큰팩토리는 AI 모델별로 다른 성능과 비용을 고려해 업무 목적에 맞는 모델을 선택하고 사용량을 관리할 수 있는 플랫폼이다.
기업 고객은 여러 AI 모델을 개별적으로 구독하거나 관리할 필요 없이 하나의 플랫폼에서 모델 선택과 이용 현황 모니터링, 결제까지 처리할 수 있다.
KT는 자체 개발한 AI 모델 라우팅 기술 '오토 모델 라우터'를 적용해 비용 효율성을 높였다.
이 기술은 질문의 업무 유형과 난이도, 요구 품질, 비용 등을 종합적으로 분석해 적합한 AI 모델을 자동으로 선택한다.
KT에 따르면 오토 모델 라우터는 AI 모델 선택 성능을 평가하는 글로벌 벤치마크 '라우터아레나'에서 종합 1위를 기록했다.
한국어 특성을 고려한 프롬프트 압축 기술도 적용했다. 불필요한 반복 표현 등을 제거해 질문의 의미와 응답 품질을 유사하게 유지하면서 입력 토큰 수를 줄이는 방식이다.
KT는 이 같은 자체 기술을 통해 AI 이용에 필요한 토큰 사용량을 최대 25% 절감할 수 있다고 설명했다.
데이터 주권과 보안 기능도 강화했다.
해외 AI 서비스 의존에 따른 데이터 유출 우려를 줄이기 위해 국내 KT 데이터센터에서 자체 AI 추론 서비스를 제공한다.
KT 자체 AI 모델을 비롯해 국내외 오픈웨이트 모델, 독자 AI 파운데이션 모델 등을 국내 인프라에서 활용할 수 있도록 지원한다.
또한 자체 가드레일 기술을 적용해 이용자가 입력한 개인정보와 민감정보, 유해 표현을 점검하고 AI가 생성한 답변의 안전성도 검증한다.
KT는 글로벌 AI 모델 마켓플레이스 사업자인 '오픈라우터'와 국내 최초로 공식 파트너십을 체결했다.
이를 통해 글로벌 AI 모델 500개 이상을 확보하고 KT 자체 추론 모델과 통합 제공할 계획이다.
향후에는 KT가 국내에서 제공하는 AI 모델의 글로벌 유통도 추진한다.
토큰팩토리는 오는 30일 정식 출시된다.
초기에는 여러 AI 모델을 활용하면서 비용을 효율적으로 관리하려는 기업 고객을 대상으로 서비스를 제공하고 이후 개인 고객으로 서비스 범위를 확대할 예정이다.
KT는 유라클, CAST AI, 타임리 등 AI 전문기업과의 협력을 확대하는 한편 업스테이지와 다음 등 '모두의 AI' 컨소시엄 참여사들과도 협력을 강화할 계획이다.
박상원 KT AX사업부문장 전무는 "AI 시장은 이제 누가 더 좋은 모델을 만드느냐보다 누가 AI를 더 쉽고 효율적으로 활용하도록 지원하느냐의 경쟁으로 빠르게 전환되고 있다"며 "토큰팩토리를 대한민국 AI 생태계 성장을 이끄는 핵심 플랫폼으로 발전시켜 나가겠다"고 말했다.
built@yna.co.kr
Copyright 연합뉴스 All rights reserved. 무단 전재 및 재배포 금지.
인기상품 확인하고 계속 읽어보세요!
원치 않을 경우 뒤로가기를 눌러주세요.