UNIST·성균관대, '스스로 판단해 일하는 AI' 보안기술 개발한다

불편하시다면 뒤로 가기를 눌러주세요

과기부·정보통신기획평가원 과제 선정…2031년까지 110억원 지원금

(울산=연합뉴스) 김용태 기자 = 국내 연구진이 스스로 판단하고 일하는 인공지능(AI)인 '에이전틱 AI'(Agentic AI)를 안전하게 쓸 보안 원천 기술의 개발에 나선다.

울산과학기술원(UNIST)은 과학기술정보통신부와 정보통신기획평가원(IITP)이 지원하는 '2026년도 AI최고급신진연구자지원 사업'(AI 스타 펠로우십) 학점 연계형 과제에 선정됐다고 18일 밝혔다.

UNIST는 성균관대와 컨소시엄을 구성해 2031년 12월까지 5년 6개월간 연구를 수행하며, 총 110억원의 정부 지원금을 받게 된다.

연구 책임자는 UNIST 컴퓨터공학과 문현곤 교수가 맡는다. UNIST 위성일·박민경·박새롬·나형호 교수도 참여한다.

성균관대에서는 박은일·황성재·김형식 교수가 참여하고, AI·보안 전문 기업 시큐레이어, S2W, 라온데이터도 함께 한다.

연구팀이 개발을 추진하는 기술은 외부 공격으로 AI가 정보를 유출하거나 허가받지 않은 작업을 수행하는 일을 막는 것이다.

에이전틱 AI는 거대언어모델(LLM)을 토대로 문서를 읽거나 웹을 검색하고, 도구를 사용해 업무를 처리하는데, 이 과정에서 외부의 악의적 입력이 모델의 판단을 왜곡하면 실제 실행 단계까지 피해가 번질 수 있다.

특히 위험한 입력을 탐지하거나 실행 환경을 분리하는 등 각 단계에 따로 적용하는 방어 기법만으로는 여러 단계를 거치는 공격을 효과적으로 막아내기 어렵다.

연구팀은 모델, 인터페이스, 실행 환경 등 세 계층의 안전장치를 함께 설계하는 '계층 간 안전 공동설계'로 이 문제를 해결할 계획이다.

공통 안전 기준과 계층별 역할을 정해 한 계층이 뚫려도 다음 계층에서 공격을 막도록 한다.

연구팀은 각 계층의 핵심 난제를 해결할 세가지 프로젝트를 추진하고, 개발한 기술은 협력 기업의 실제 서비스에서 검증한다.

연구팀은 AI와 보안 전문성을 함께 갖춘 신진 연구자를 양성하고, 비수도권 AI 연구 기반을 넓히는 데도 힘쓸 예정이다.

문현곤 교수는 "에이전틱 AI는 모델 하나만 안전해서는 안 되고, 입력이 들어오는 경로와 실행 환경까지 함께 지켜야 한다"며 "이번 사업으로 세 계층을 아우르는 핵심 보안 기술을 개발하고, 에이전틱 AI를 안전하게 활용하는 데 기여할 인재를 양성할 것"이라고 말했다.

yongtae@yna.co.kr

인기상품 확인하고 계속 읽어보세요!

5

원치 않을 경우 뒤로가기를 눌러주세요.