[AI프리즘] 국정원, AI 에이전트 안전성 평가한다(종합)

다음 내용이 궁금하다면?

불편하시다면 뒤로 가기를 눌러주세요

LLM 넘어 자율형 AI로 평가 확대…12월 레드티밍 지침 배포

국가망보안체계 확산…국제훈련에 'AI 방어팀' 첫 투입

(서울=연합뉴스) 권하영 기자 = 국가정보원이 고성능 인공지능(AI) 확산에 따른 사이버 위협에 대응하기 위해 기존 대규모언어모델(LLM) 중심의 안전성 평가를 자율적으로 업무를 수행하는 AI 에이전트까지 확대한다.

공공 클라우드 보안체계를 국가망보안체계(N2SF)와 연계해 개편하고, 각급 기관용 AI 레드티밍 지침과 보안 플레이북을 배포하는 한편 국제 사이버훈련에는 사람의 개입 없이 공격에 대응하는 'AI 방어팀'을 처음 투입한다.

◇ 이종석 국정원장 "보안은 혁신의 필수 조건"

이종석 국가정보원장이 "보안은 혁신의 발목을 잡는 걸림돌이 아니라 혁신을 지속할 수 있는 필수 조건"이라고 강조했다.

국정원과 국가보안기술연구소가 공동 주최하는 글로벌 사이버안보 행사 '사이버 서밋 코리아(CSK) 2026'이 17일 서울 코엑스에서 개막한 자리에서다.

이 원장은 이날 개회사에서 "초국가적으로 연결된 사이버 세상은 혁신과 성장의 기반인 동시에 위협의 통로가 되고 있다"며 "특히 최근에는 고성능 인공지능(AI) 출현으로 위협 수준이 높아졌다"고 진단했다.

그는 AI와 클라우드, 데이터센터, 이동통신, 디지털 금융, 스마트 공장, 자율 시스템 등이 서로 맞물려 움직이는 초연결 환경을 언급하며 "연결은 혁신의 기반이자 성장의 동력이지만, 동시에 위협의 통로가 되기도 한다"고 짚었다.

랜섬웨어가 공급망을 타고 확산되고 생성형 AI가 피싱과 해킹을 정교하게 만들며 국가 핵심 인프라를 겨냥한 공격이 점점 조직화되고 있다는 것이다.

이 원장은 "연결의 속도를 보안이 따라가지 못한다면 미래를 지킬 수 없다"고 경고하며 "보안은 혁신의 발목을 잡는 걸림돌이 아니라 혁신을 지속할 수 있는 필수 조건"이라고 역설했다.

또 "신뢰 없는 AI는 안전할 수 없고, 안전하지 않은 데이터는 국가 경쟁력이 될 수 없다"며 "AI가 사회 전반으로 확산하는 지금 튼튼한 사이버 보안은 AI 강국으로 나아가기 위한 기본 체제"라고 덧붙였다.

이어 "사이버보안은 전 세계가 연결된 공통언어로서 모두가 함께 지켜야 올바르게 작동할 수 있다"면서 "사이버 세상의 연결을 어떻게 안전하게 만들 수 있을지 해답을 함께 찾아가는 자리가 되기를 바란다"고 강조했다.

올해 3회째를 맞은 CSK 2026은 '글로벌 사이버안보를 위한 한발 앞선 노력: 연결된 세상, 함께하는 보안'을 주제로 내걸었으며, 31개국 56개 해외 정보·보안 기관 대표단을 비롯해 정부 부처·기업·학계 등 국내외 사이버보안 분야 주요 관계자와 일반 국민 등 3천여명이 참석하며 성황리에 문을 열었다.

개회식에 이어진 컨퍼런스에서는 고성능 AI 위협 대응 실태 및 과제, AX 시대에 필요한 사이버안보 전략 등 핵심 의제가 논의됐다.

◇ AI 에이전트로 안전성 평가 확장

국정원의 특별 세션에서는 소프트웨어 공급망 보안과 양자내성 암호전환 촉진 등 국가 사이버안보 정책도 소개됐다.

AI 보안 분야에서는 기존 대규모언어모델(LLM) 중심의 안전성 평가를 AI 에이전트로 확장한다는 계획이 제시됐다.

국정원은 AI안전연구소와 협업해 화학·생물학·방사능·핵(CBRN) 및 사이버·국가안보 분야 위협 데이터베이스와 AI 안전성 평가체계를 갖춰 운용 중이다.

향후 이 평가 범위를 기존 LLM에서 AI 에이전트로 넓히고, 평가 결과와 대응방안을 '국가사이버위협정보공유시스템(NCTI)'에 게시해 각 기관이 직접 확인할 수 있도록 할 방침이다.

국정원은 오는 12월 각급기관이 자체적으로 AI 시스템 레드티밍(공격자 관점 취약점 진단)을 수행할 수 있도록 방법·절차를 담은 'AI 레드티밍 가이드라인'과 보안 조치 의무 사항을 수록한 'AI 보안 플레이북'도 배포할 예정이다.

국정원 관계자는 "AI 활용으로 효율성과 생산성이 높아졌지만 AI를 통한 취약점 식별 및 공격도 가속화되고 있어 현재 보안 체계로는 대응에 한계가 있다"며 "보이지 않는 보안이 보이는 신뢰를 만든다는 생각으로 위협은 줄이고 대응은 빨라지도록 발 빠르게 맞춰나가겠다"고 말했다.

국가 클라우드 보안 정책도 전면 개편된다. 현행 '상·중·하' 등급 체계를 국가망보안체계(N2SF)와 연계해 '기밀(C)·민감(S)·공개(O)' 등급으로 일원화하는 방안이 추진되고 있다.

공공 클라우드 보안검증은 현재 과학기술정보통신부의 클라우드 보안 인증(CSAP)과 국정원 검증을 모두 받아야 하는 이중 구조에서 국정원 검증으로 단일화될 예정이며, 시행 시기는 산업계 준비 기간을 고려해 1년 유예를 고려하고 있다.

국정원 관계자는 "현재 클라우드 보안 가이드라인 개정안 초안을 마련하고 각계 의견을 수렴하는 중"이라고 밝혔다.

N2SF 확산을 위해서는 대규모 정보화 사업 기획·예산 단계부터 N2SF 보안대책이 반영될 수 있도록 세부 절차를 수립 중이며, 무선·원격·모바일 업무환경 운용 모델도 연내 공개할 방침이다.

양자내성암호 전환도 촉진한다.

국정원 관계자는 "양자컴퓨터 기술 발전이 가속화되면서 현용 암호체계 무력화 위협이 점점 가시화되고 있다"며 "기밀 등 핵심 영역에 대한 양자내성암호 전환 시점을 당초 목표인 2035년보다 앞당기는 방안을 관계부처와 검토하고 있다"고 말했다.

◇ APEX 2026서 'AI 방어팀' 투입

행사 기간인 16~18일에는 23개국 300여 명이 참여하는 국제 사이버훈련 'APEX 2026'과 일반·공공·청소년 총 50여 개 팀이 맞붙는 '사이버공격방어대회(CCE) 2026' 본선도 함께 진행된다.

APEX 2026에서는 사람의 개입 없이 실시간 사이버공격에 대응하는 'AI 방어팀'이 전 세계 최초로 공개된다.

AI 방어팀은 NATO·인도-태평양 23개국 참가자들로 구성된 8개 방어팀과 동일한 조건으로 훈련에 참여해 위협 탐지부터 공격 분석, 복구, 대응전략 수립까지 전 과정을 실전처럼 수행한다.

일명 '프로젝트 팔랑크스'로 불리는 이 AI 방어팀은 국정원 국가사이버안보센터(NCSC) 주도로 국방부·국가보안기술연구소·스틸리언·금융보안원 등 민관군 정예팀이 4개월간 개발했으며, 네이버클라우드가 기반 환경을 지원했다.

프로젝트에 참여한 군 관계자는 "방어자는 공격자에 비해 대규모 인프라 전반을 빈틈없이 지켜야 하는 구조적 한계가 있다"며 "제로트러스트 기반의 AI 자동 대응을 통해 이러한 한계를 보완하기 위해 추진했다"고 전했다.

18일 폐회식에서는 내년도 행사 계획 소개와 함께 CCE 우수팀을 대상으로 한 국가정보원장상 표창 등 시상식이 열릴 예정이다.

kwonhy@yna.co.kr

경남경찰청장, 3·15기념사업회 방문…"숭고한 뜻 기리 한미 장병들, 16∼17일 연합·합동 폭발물처리 훈련

인기상품 확인하고 계속 읽어보세요!

5

원치 않을 경우 뒤로가기를 눌러주세요.