AI 에이전트가 스스로 취약점 탐색·공격…보안 판도 변화 예고

SK쉴더스 AI 해킹대회 5위…한국 포함 국제 연합팀 데프콘 본선

데프콘(DEF CON) 34 메인 로비 전경. [SK쉴더스 제공. 재판매 및 DB 금지]

(서울=연합뉴스) 권하영 기자 = 지난 6일부터 9일까지 열린 세계 최대 해킹·보안 콘퍼런스 '데프콘(DEF CON) 34'에서는 단연 인공지능(AI)이 가장 큰 화두로 떠올랐다.

AI가 단순한 해킹 보조 도구를 넘어 스스로 공격을 수행하는 주체로 진화하면서 사이버 보안의 판도가 어떻게 바뀔지에 관심이 집중됐다.

매년 미국 라스베이거스에서 열리는 데프콘은 전 세계 화이트해커와 보안 연구자들이 최신 해킹 기술과 보안 위협을 공유하는 대표 행사다.

올해 행사에서는 AI와 자동차, 암호화폐, 물리보안 등 총 38개 분야에서 각 '빌리지(Village)' 프로그램이 운영되며 연구 발표와 강연, 해킹 실습, 해킹 대회가 이어졌다.

특히 이번 행사에서는 사이버 보안 위협이 소프트웨어를 넘어 현실 세계 전반으로 확장되고 있다는 점이 다시 한번 확인됐다.

예컨대 자동차 해킹 빌리지에서는 차량 내부 통신망과 전자제어장치(ECU)의 취약 가능성을 집중적으로 다루고, 물리보안 빌리지에서는 도어락과 엘리베이터, 각종 센서 등 현실 공간에서 발생할 수 있는 보안 위협을 살피는 식이다.

암호화폐 빌리지에서는 스마트컨트랙트 보안 감사와 블록체인 간 자금 추적, 탈중앙화 네트워크를 구성하는 암호 기술 분석 등이 주요 주제로 논의됐다.

이는 특정 시스템만이 아니라 연결된 모든 것이 잠재적인 공격 표면이 될 수 있다는 현실을 보여준 사례로 평가된다.

데프콘(DEF CON) 34 (왼쪽)자동차 해킹 빌리지와 (오른쪽)물리 보안 빌리지. [SK쉴더스 제공. 재판매 및 DB 금지]

◇ AI 에이전트가 직접 공격…보안 경쟁 방식도 변화

AI 빌리지에서는 최근 보안 업계의 핵심 관심사인 AI 기반 공격과 방어 기술이 집중적으로 다뤄졌다.

최근 고성능 AI 모델의 악용 가능성과 AI 기반 공격 자동화가 현실적인 위협으로 떠오르면서 AI 모델과 서비스를 겨냥한 공격 기법, 이에 대응하기 위한 기술이 주요 의제로 부상한 것이다.

시스템의 취약점을 찾고 특정 데이터인 '플래그(Flag)'를 획득하는 방식의 해킹대회(CTF·Capture The Flag)도 열렸다.

특히 올해 AI 빌리지 CTF는 AI로 해킹 능력을 겨루는 방식을 채택했다. 참가자는 주어진 AI 모델을 기반으로 침투 테스트를 수행하는 AI 에이전트를 구성하고, 이 에이전트가 문제를 이해한 뒤 공격 방법을 선택해 스스로 플래그를 탈취하도록 설계해야 했다.

지난해까지만 해도 AI가 해킹을 자동화하는 보조 수단에 가까웠다면, 올해는 AI 에이전트가 직접 취약점을 찾아 공격을 완성하는 모습이 실제 대회를 통해 구현된 것이다.

이번 AI 빌리지 CTF에서는 SK쉴더스 화이트해커 조직 이큐스트(EQST)가 전 세계 200여개 참가팀 가운데 최종 5위를 기록했다. 국내 참가팀 가운데 유일한 상위 5위권 성적이다.

이큐스트는 문제 유형에 맞춰 AI 모델을 최적화하고 에이전트의 행동 방식을 조정하는 한편, 배점과 난이도를 분석해 공략 순서를 결정하는 전략을 활용했다.

또한 AI 에이전트가 스스로 취약점을 탐색하고 공격을 수행하도록 설계하는 과정에서 AI 모델에 대한 이해와 침투 테스트 경험, 보안 문제 분석 역량을 종합적으로 활용했다.

SK쉴더스 이큐스트 구성원들이 데프콘(DEF CON) 34 AI 빌리지에서 열린 CTF에 참가 후 AI 빌리지 운영진과 기념사진을 촬영하고 있다. [SK쉴더스 제공. 재판매 및 DB 금지]

◇ 국경 넘은 협업…데프콘 본선도 진출

AI 빌리지 CTF와 별도로 열린 데프콘 34 CTF 본선은 사흘 동안 진행됐다.

본선은 상대 시스템을 공격하는 동시에 자신의 시스템을 방어하는 '공격·방어(Attack-Defense)' 방식과 참가팀 간 순위를 겨루는 '킹 오브 더 힐(KOTH)' 방식을 결합한 실전형 대회로, 취약점 분석과 공격 코드 개발, 방어 패치 작성 능력을 동시에 요구한다.

686개 예선 참가팀 가운데 본선에 오른 12개 팀에는 SK쉴더스 이큐스트와 네이버클라우드, 루비야랩, 핀란드 H-T8 등으로 구성된 국제 연합팀도 포함됐다.

연합팀의 한국과 핀란드 연구원들은 실시간으로 의견을 교환하며 역할을 분담했다. 한 연구원이 취약점을 발견하면 다른 연구원이 공격 코드를 작성하고, 또 다른 연구원이 방어 패치를 개발하는 방식으로 협업을 이어가는 식이었다.

대회에 참석한 일리야 윌리캉가스 핀란드 H-T8 팀 리더는 "AI가 보안 분야에 미치는 영향이 빠르게 커지고 있음을 현장에서 직접 체감했다"며 "한국 연구원들과 함께 문제를 해결하는 과정이 큰 배움의 기회가 됐다"고 전했다.

업계에서는 데프콘 CTF가 높은 평가를 받는 이유가 최종 순위에만 있지 않다고 지적한다. 취약점 발굴과 공격·방어 기술은 물론 제한된 시간 안에 다양한 전문가들이 협업하고 자원을 효율적으로 배분하는 역량까지 함께 검증하는 무대이기 때문이다.

이는 보안 기업들이 국제 해킹대회와 글로벌 보안 커뮤니티 활동에 지속적으로 참여하는 이유이기도 하다. 새로운 공격 기법은 실제 사고 이후 알려지는 경우가 많은 만큼, 전 세계 연구자들과 발 빠르게 공유하고 대응 전략을 검증하는 과정이 선제적 위협 대응에 도움이 될 수 있다는 설명이다.

이호석 SK쉴더스 이큐스트 랩 팀장은 "AI를 중심으로 해킹의 대상과 방식이 빠르게 확장되고 있음을 확인했다"며 "최신 공격 기법을 선제적으로 연구해 실제 보안 서비스에 적용하겠다"고 밝혔다.

데프콘(DEF CON) 34 CTF에 참가한 이호석 SK쉴더스 이큐스트 랩 팀장(좌측)과 일리야 윌리캉가스 핀란드 H-T8 팀 리더(우측) 모습. [SK쉴더스 제공. 재판매 및 DB 금지]

kwonhy@yna.co.kr

Copyright 연합뉴스 All rights reserved. 무단 전재 및 재배포 금지.