"취약점 알려줄래"…AI끼리 협업해 내부망 스스로 찾은 후 침투

다음 내용이 궁금하다면?

불편하시다면 뒤로 가기를 눌러주세요

안랩, AI 자율 침투 프레임워크 검증 실험
웹 서버 취약점 이용해 스스로 프로그램 실행인공지능(AI)이 취약점 탐색부터 외부 서버 침투, 내부망 이동까지 스스로 수행하는 자율형 사이버 공격의 위협이 모의실험에서 확인됐다.

연합뉴스는 18일 보안업계 소식을 인용, 안랩 시큐리티 인텔리전스 센터(ASEC)가 오픈소스 인공지능(AI) 자율 침투 프레임워크 '아르텍스(ARTEX)'의 실제 위협 수준을 검증한 모의 침투 실험 결과를 공개했다고 보도했다.

아르텍스는 대규모언어모델(LLM)을 기반으로 여러 AI 에이전트가 역할을 분담해 침투 작업을 수행하는 프레임워크다. 공격 목표와 허용 범위를 설정하면 자산 조사, 취약점 탐색, 공격 도구 선택, 실행 결과 검증 등을 순차적으로 진행한다. 사용자가 각 단계를 일일이 지시하지 않아도 앞선 작업에서 얻은 정보를 바탕으로 다음 행동을 결정하는 방식이다.

실험 결과 아르텍스는 취약점을 탐색하고 공격 단계를 스스로 결정해 프로그램을 실행했으며, 별도 환경에서는 내부 호스트 4대에서 원격 명령을 수행하는 데 성공했다.

사진은 해당 기사 내용과 직접적인 관계 없음. 픽사베이

안랩은 두 가지 모의 환경에서 아르텍스를 검증했다. 첫 번째 실험에서 아르텍스는 파일 업로드 기능에 취약점이 있는 웹 서버를 조사한 뒤 웹 셸을 설치하고 윈도 환경에서 프로그램을 실행했다.

두 번째 실험에서는 메시지 브로커 소프트웨어인 아파치 액티브MQ(Apache ActiveMQ) 5.15.15의 취약점(CVE-2023-46604)을 이용해 초기 접근을 시도했다. 이후 내부 자산과 계정을 조사하고 내부 호스트 4대에서 원격 명령을 실행했다. 두 실험은 AI가 공격 단계별 지시를 받지 않고 작업을 이어갈 수 있다는 점을 확인하기 위해 진행됐다.

안랩은 아르텍스와 관련된 인터넷 노출 인프라도 조사했다. 관련 운영 시스템의 공인 IP 주소는 10월 14일 기준 900개를 넘는 것으로 파악됐다. 일부 관련 작업 디렉터리에서는 웹 셸과 내부망 탐색, 자격 증명 수집, 원격 제어 악성코드 등 공격 활동과 관련된 자료도 발견됐다.

이번 실험은 AI 기반 침투 도구가 취약점 탐색부터 초기 침투, 내부망 이동까지 여러 공격 단계를 연결해 수행할 수 있음을 보여준다. 공격자가 각 단계의 작업을 직접 수행해야 했던 기존 방식과 달리, 자율형 AI 도구는 실행 결과에 따라 다음 행동을 선택하며 공격 과정을 이어갈 수 있다.

안랩은 "AI 에이전트가 서비스 탐색부터 권한 탈취, 내부망 침투까지 전 과정을 단절 없이 자동화하고 있다"며 기업과 기관이 인터넷에 노출된 서비스와 관리 기능을 점검하고, 알려진 취약점과 잘못된 보안 설정을 신속하게 수정해야 한다고 강조했다. 또한 파일과 프로세스 실행 기록, 네트워크 연결, 웹 접속 및 인증 로그를 함께 분석해 초기 침투부터 내부망 이동까지 이어지는 공격 흐름을 탐지하는 것이 중요하다고 덧붙였다.

최승우 기자 loonytuna@asiae.co.kr

https://n.news.naver.com/mnews/article/277/0005829881