다음 내용이 궁금하다면?
불편하시다면 뒤로 가기를 눌러주세요
[KAIST 제공.재판매 및 DB 금지]
(대전＝연합뉴스) 김준호 기자 = 한국과학기술원(KAIST)은 전산학부 손수엘 교수가 국내에서는 유일하게 '마이크로소프트(MS) AI 레드팀'이 운영하는 글로벌 AI 안전성 연구 프로그램 'EXTRA(외부 레드팀 연합)'의 연구지원 대상자로 선정됐다고 28일 밝혔다.
EXTRA는 MS AI 레드팀이 올해 새롭게 출범한 글로벌 연구지원 프로그램으로, AI 시스템의 안전성과 보안 취약점을 다양한 관점에서 검증하고 독립적인 AI 안전성 연구 생태계를 확대하기 위해 마련됐다.
AI 안전성 평가를 기업 내부에만 맡기지 않고 전 세계 대학과 연구기관으로 확대한 것이다.
이번 선정에 따라 KAIST는 MS로부터 AI 안전성·보안, 'AI 정렬 및 책임 있는 AI' 개발 연구를 위한 2만5천달러(한화 약 3천700만원) 규모의 연구지원금을 받는다.
이번 지원은 연구과제 수행 기간을 별도로 정하지 않는 형태로 제공되며, 해당 연구비는 손 교수 연구팀의 AI 보안 및 안전성 연구에 활용될 예정이다.
EXTRA에는 KAIST를 비롯해 전 세계 10여개가 넘는 대학이 참여한다. 국내에서는 KAIST가 유일하다고 KAIST는 전했다.
손 교수 연구팀은 생성형 AI와 대규모 언어모델(LLM) 기반 AI 시스템의 보안과 개인정보 보호 기술을 연구하고 있다.
손 교수는 "AI 시스템이 사회 전반에 빠르게 확산하면서 성능뿐만 아니라 안전성과 신뢰성을 확보하는 것이 무엇보다 중요해지고 있다"며 "이번 참여를 계기로 실제 AI 서비스 환경에서 발생할 수 있는 다양한 보안 위협을 체계적으로 분석하고, 누구나 안심하고 활용할 수 있는 AI 기술 개발에 기여하겠다"고 말했다.
kjunho@yna.co.kr
Copyright 연합뉴스 All rights reserved. 무단 전재 및 재배포 금지.
인기상품 확인하고 계속 읽어보세요!
원치 않을 경우 뒤로가기를 눌러주세요.