다음 내용이 궁금하다면?
불편하시다면 뒤로 가기를 눌러주세요
기업 93% AI 예산 초과…에이전트 비용 급증
가트너 "AI 지금보다 저렴해지지 않을 것"…핀옵스 부상
[강민지 제작] 일러스트
(서울=연합뉴스) 권하영 기자 = 인공지능(AI) 도입이 확산할수록 비용 부담도 가파르게 커지면서 전 세계 기업·기관 5곳 중 1곳은 2028년까지 AI 활용을 중단할 것이라는 전망이 나왔다.
AI 기술 자체보다 비용이 확산의 최대 걸림돌로 떠오른 가운데, 어떤 AI를 도입하느냐보다 AI 비용을 얼마나 효율적으로 관리하느냐가 기업 경쟁력을 좌우하는 시대가 됐다는 분석이다.
16일 글로벌 시장조사기관 가트너에 따르면 2028년까지 전 세계 조직의 20%는 AI 비용을 통제하지 못해 업무에서 AI 활용을 포기하고 기존 소프트웨어 개발 방식으로 되돌아갈 것으로 전망된다.
특히 비용 대비 효과가 낮은 영역에서 AI 적용을 거둬들이고 전통적인 시스템으로 대체하는 흐름이 가속화될 수 있다.
◇ "AI, 지금이 가장 저렴한 시대"
주요 AI 개발사들이 시장 선점을 위해 무료 또는 저가 서비스를 앞세우던 초기와 달리, 최근 대규모언어모델(LLM) 시장은 소수의 지배적 공급자를 중심으로 재편되고 있다.
이에 따라 월정액만 내면 제한 없이 이용하던 요금 체계는 사용량만큼 비용을 부담하는 종량제로 빠르게 바뀌고 있다. 가격 결정권이 공급자에게 넘어가면서 이용자는 AI를 사용할수록 최종 비용을 예측하기 어려운 구조가 됐다.
실제 마이크로소프트(MS)는 올해 5월 수천 명의 내부 직원에게 제공하던 클로드 코드 라이선스를 중단하고 자사 제품인 깃허브 코파일럿 사용으로 전환했다.
우버도 올해 초 엔지니어 5천명에게 AI 코딩 도구를 적극 활용하도록 장려하며 사내 사용량 순위표까지 운영했지만, 연간 예산을 불과 4개월 만에 모두 소진했다. 이후 직원 1인당 월 사용 한도를 약 1천500달러로 제한했다.
[가트너 제공. 재판매 및 DB 금지]
맥킨지가 올해 5월 5개 주요 산업 기업 75곳을 대상으로 실시한 기업 AI 핀옵스(FinOps) 조사에서는 응답 기업의 93%가 AI 예산을 초과했다고 답했다.
특히 에이전트형 AI는 비용 증가 폭이 더 크다. 전체 비용의 60%가 최초 추론이 아니라 결과물을 수정·보완하는 반복 과정에서 발생하는 수준이다.
에이전트는 일반 챗봇보다 동일한 작업에 최대 30배 많은 토큰을 사용하며, 출력 결과가 기준에 미치지 못하면 전체 맥락을 처음부터 다시 처리하는 재시도 과정으로 토큰 소비량이 최대 50배까지 늘어날 수 있다.
이 같은 흐름을 근거로 가트너는 "AI는 지금보다 다시 저렴해지지 않을 것"이라고 예측했다.
◇ "비용 관리가 곧 AI 경쟁력"
가트너는 AI 비용 급등 시대의 핵심 경쟁력으로 'AI 핀옵스(FinOps)'를 제시했다. 핀옵스는 AI 지출과 사용 현황, 성과를 실시간으로 관리해 불필요한 비용을 줄이는 재무 관리 체계다.
아울러 업무 특성에 맞는 AI 모델을 선택하고 답변 길이도 필요한 수준으로 제한하는 등 비용 대비 성과를 중심으로 AI 운영 방식을 전환해야 한다고 권고했다.
AI 업계 한 관계자는 "지금까지는 AI를 최대한 많이, 빠르게 도입하는 것이 곧 경쟁력이라는 인식이 지배적이었다"며 "하지만 비용 구조가 현실로 드러나면서 이제는 어떤 업무에 AI를 적용할 때 실질적인 효과가 나오는지를 따지는 방향으로 전환이 필요한 시점"이라고 말했다.
다만 전문가들은 AI 비용 문제가 개별 기업의 경영 과제를 넘어 산업 전반의 격차를 키울 수 있다는 점도 우려한다.
또 다른 업계 관계자는 "프론티어 모델들의 고비용 구조가 고착화하면 결국 자본력을 갖춘 대기업이나 일부 산업 중심으로 활용될 가능성이 크다"며 "AI를 통한 생산성 혁신이 기업의 생존과 직결되는 만큼 비용 장벽은 큰 장애물이 될 것"이라고 말했다.
kwonhy@yna.co.kr
Copyright 연합뉴스 All rights reserved. 무단 전재 및 재배포 금지.
인기상품 확인하고 계속 읽어보세요!
원치 않을 경우 뒤로가기를 눌러주세요.