[AI픽] 카카오 AI, 배포 전후 안전성 평가받는다…에이전트까지 확대

불편하시다면 뒤로 가기를 눌러주세요

인공지능안전연구소와 협약…언어모델부터 단계별 검증

(서울=연합뉴스) 오지은 기자 = 카카오[035720]가 인공지능안전연구소와 손잡고 인공지능(AI) 안전성 평가 체계 구축에 나선다.

카카오는 지난 28일 인공지능안전연구소와 AI 안전성 공동 평가 및 평가 체계 구축을 위한 업무협약(MOU)을 체결했다고 29일 밝혔다.

양사는 이번 협약으로 자사 AI 모델과 AI 에이전트를 대상으로 객관적이고 체계적인 안전성 평가 기반을 마련할 계획이다.

카카오는 평가 대상 모델·에이전트와 인프라를 제공하고, 연구소는 평가 수행과 방법론 고도화를 맡는다.

협력은 3단계로 진행된다.

우선 언어모델의 배포 전·후 안전성 평가를 시작으로, 멀티모달 언어모델과 AI 에이전트까지 대상을 넓힌 뒤 효율적인 검증을 위한 평가도구를 공동 개발할 방침이다.

앞서 카카오는 지난해 연구소와 함께 자체 언어모델 '카나나-1.5-9.8B(Kanana-1.5-9.8B)'를 대상으로 공동 안전성 평가를 진행한 바 있다.

김세웅 카카오 AI 시너지 성과리더는 "이번 협력을 통해 카카오 AI 모델이 객관적이고 엄격한 검증 체계를 갖추게 됐다"며 "기술 혁신과 함께 안전성과 신뢰를 최우선으로 두겠다"고 말했다.

김명주 인공지능안전연구소장은 "AI 기술이 고도화될수록 잠재적 위험을 선제적으로 식별하고 평가하는 체계가 중요하다"며 "글로벌 표준에 부합하는 체계를 구축하겠다"고 전했다.

built@yna.co.kr

인기상품 확인하고 계속 읽어보세요!

5

원치 않을 경우 뒤로가기를 눌러주세요.