다음 내용이 궁금하다면?
불편하시다면 뒤로 가기를 눌러주세요
구글·맨디언트, AI 이용 권한 탈취하는 'LLM재킹' 사례 분석
탈취 권한 저가 재판매…무단 사용료는 피해 기업에 청구
(서울=연합뉴스) 한상용 기자 = 기업의 인공지능(AI) 서비스 접근 권한을 탈취해 무단으로 사용하거나 다른 사람에게 되팔고 그 비용은 피해 기업에 떠넘기는 방식의 사이버 공격이 확인됐다.
4일 구글 위협 인텔리전스 그룹(GTIG)과 맨디언트가 최근 발표한 'LLM 재킹' 위협 보고서에 따르면 이러한 공격으로 하루 10만달러(한화 약 1억3천400만원)가 넘는 무단 사용 요금이 발생한 사례가 포착됐다.
일부 기업에서는 접근을 차단하기 전까지 누적 요금이 100만달러(한화 약 13억4천만원)에 달했다.
이는 무단 사용에 따라 발생한 요금으로, 기업이 실제 납부한 최종 손실액과는 구분된다.
LLM재킹은 기업의 대규모언어모델(LLM) 이용 권한을 가로채 AI 자원을 무단으로 사용하는 수법이다.
공격자는 노출되거나 탈취한 인증정보로 기업의 클라우드 환경에 침투한 뒤 AI 서비스를 이용하거나 접근 권한을 재판매한다.
보고서는 올해 북미와 남미, 아시아·태평양 지역의 금융, 유통, 기술, 운송 기업 등에서 발생한 사고를 분석했다.
공격자들은 공개된 깃허브 저장소에서 AI 서비스 접근용 API 키를 수집하거나 로그인 상태를 가로채는 방식 등을 활용했다.
탈취한 접근 권한을 중계 서버로 묶어 저가에 재판매하는 사례도 확인됐다.
이용자에게는 저렴한 AI 서비스를 제공하면서 실제 사용료는 피해 기업 계정에 청구되도록 하는 구조다.
한 공격자는 8시간도 안 돼 50만건 넘게 LLM API를 호출했다.
요청 한도를 우회하기 위해 단기간 사용하는 서비스 계정을 반복적으로 만들고 삭제하는 수법도 관찰됐다.
보고서는 기업이 AI 접근 권한을 최소한으로 부여하고, 소스코드에 노출된 인증정보를 자동으로 탐지해야 한다고 권고했다.
존 헐트퀴스트 GTIG 수석 애널리스트는 "기업이 빠르게 도입 중인 AI 모델과 컴퓨팅 자원을 면밀히 점검하고 보호하지 않으면 제3자가 무단으로 악용할 수 있다"며 "자원 사용 내역을 철저히 확인하고 다중 인증을 활성화하는 한편 계정 정보를 신중하게 관리해야 한다"고 말했다.
gogo213@yna.co.kr
Copyright 연합뉴스 All rights reserved. 무단 전재 및 재배포 금지.
인기상품 확인하고 계속 읽어보세요!
원치 않을 경우 뒤로가기를 눌러주세요.