연합뉴스

[AI프리즘] 구글 "사람 개입 없는 AI 자율 해킹 공격 첫 확인"

입력 2026-11-17 11:43:36

다음 내용이 궁금하다면?

불편하시다면 뒤로 가기를 눌러주세요


AI가 패치 전후 코드 분석해 취약점 찾아 공격 코드 자동 개발


AI 악용 수법 다변화…북한 해커, 가상 인물로 암호화폐 노려




사이버보안

[로이터=연합뉴스 자료사진. 재판매 및 DB 금지]


(서울=연합뉴스) 권하영 기자 = 인공지능(AI)이 사람의 개입 없이 소프트웨어 취약점을 찾아내고 공격 코드까지 개발하는 완전 자율형 사이버 공격 사례가 처음 확인됐다.


◇ 사람 개입 없는 AI 자동화 공격 등장


구글 위협 인텔리전스 그룹(GTIG)은 생성형 AI를 악용한 사이버 공격 동향을 분석한 'AI 위협 추적 보고서'를 17일 발표했다.


GTIG와 구글 클라우드 보안기업 맨디언트는 최근 사이버 범죄와 첩보 활동, 정보작전(IO) 등에서 공격자들이 AI를 활용해 공격 시간을 단축하고 침투 규모를 확대하는 양상을 분석했다.


특히 공격자가 AI에 일일이 명령을 입력하는 방식을 넘어 여러 AI 에이전트가 연계해 공격을 수행하는 자율형 프레임워크가 확산하고 있는 것으로 나타났다.


대표적인 사례로는 '아르텍스(ARTEX)', '케언(CAIRN)', '사이버스트라이크AI(CyberStrikeAI)', '펜트AGI(PentAGI)' 등이 확인됐다. 실제 미국 항공우주 산업을 겨냥한 침투 과정에서 케언이 활용된 사례도 포착됐다.


가장 주목할 만한 변화는 취약점 탐지부터 공격 코드 개발까지 사람의 개입 없이 수행하는 자동화 공격의 등장이다.


GTIG는 러시아어 기반 도구로 구성된 대규모언어모델(LLM) 프레임워크 '익스플로잇 에이전트(exploit_agent)'가 소프트웨어 보안 패치 적용 전후의 코드를 지속적으로 비교해 취약점을 찾아내고 공격 코드를 자동 개발한 사례를 처음 확인했다.


이 같은 방식은 보안 패치가 배포됐지만 아직 적용되지 않은 시스템의 취약점인 '엔데이(N-day)' 취약점을 신속하게 공격에 활용할 수 있다는 점에서 주목된다.


공격자들은 LLM과 AI 에이전트를 이용해 패치 전후의 코드 변화를 분석하는 과정을 자동화하고, 인터넷에 노출된 서버를 대상으로 대규모 공격을 수행할 수 있는 것으로 분석됐다.





[구글클라우드 제공. 재판매 및 DB 금지]


◇ AI 모델 접근권 탈취·여론 조작·사이버 첩보까지 악용 확산


AI 모델에 대한 접근 권한을 탈취해 수익을 올리는 'LLM재킹(LLMJacking)'도 주요 위협으로 지목됐다.


공격자들은 기업 시스템에 침투해 LLM 인증 정보와 클라우드 자원을 탈취한 뒤 'LLM 믹서'와 같은 지하 프록시 서비스를 통해 고성능 AI 모델의 접근 권한을 재판매하고 있다.


여론 조작 등 정보작전에서도 AI 활용이 확대되고 있다. 국가 지원을 받는 해킹 조직과 여론 공작 대행업체 등은 LLM으로 가짜 콘텐츠를 대량 생산하고 지역별 특성에 맞는 가상 인물을 만들어 여러 플랫폼에 유포하고 있다.


실제 공격자들이 구글의 AI 모델 '제미나이' 응용프로그램 인터페이스(API)를 활용해 10만개 이상의 가짜 계정을 관리하는 플랫폼을 구축한 사례도 확인됐다. 이 플랫폼은 AI 생성 콘텐츠가 실제 촬영물처럼 보이도록 스마트폰 카메라 특유의 결함이나 왜곡까지 모방했다.


국가 연계 해킹 조직의 AI 악용 사례도 포착됐다.


중국 연계 공격자들은 LLM으로 탈취한 데이터를 분석·가공해 첩보 보고서를 작성한 것으로 나타났다.


북한 연계 공격자들은 AI로 생성한 가상 인물을 이용해 암호화폐 기업을 표적으로 삼았다. 일부 가상 인물에서는 구글의 AI 생성물 식별 기술인 '신스ID(SynthID)' 워터마크가 확인됐다. 이와 함께 AI 코딩 도구의 설정을 조작해 이용자의 컴퓨터에서 코드가 실행될 때 백도어를 심으려는 시도도 포착됐다.


구글은 이번 보고서에서 제미나이 서비스 악용을 탐지·차단하고 관련 계정을 비활성화한 조치와 함께 분석 결과를 토대로 보안 안전장치를 강화한 내용도 공개했다.


kwonhy@yna.co.kr



인기상품 확인하고 계속 읽어보세요!

5

원치 않을 경우 뒤로가기를 눌러주세요.

연합뉴스 콘텐츠 더보기

해당 콘텐츠 제공사로 이동합니다.

많이 본 최근 기사

관심 많은 기사