다음 내용이 궁금하다면?
불편하시다면 뒤로 가기를 눌러주세요
AI 안전성체계 2.0 공개…AI탭·쇼핑 에이전트 적용
[네이버 제공. 재판매 및 DB 금지]
(서울=연합뉴스) 한상용 기자 = 네이버가 인공지능(AI) 안전성 관리 범위를 기술 모델 중심에서 이용자와 서비스 영역까지 확대한 새 안전성 체계를 선보였다.
네이버는 8일 서울 강남구에서 열린 인공지능안전 서울 포럼에서 AI 안전성 체계 'ASF(AI Safety Framework) 2.0'을 공개했다고 밝혔다.
ASF 2.0은 네이버가 2024년 AI 서울 정상회의에서 공개한 기존 ASF를 최신화한 것으로, 이용자 보호와 실제 서비스 운영 단계의 안전성 관리 개념을 강화한 체계다.
기존 ASF가 AI 기술 모델의 성능과 위험 수준을 중점 관리했다면 ASF 2.0은 이용자가 실제로 경험하는 AI 서비스 전반으로 안전성 관리 범위를 넓힌 것이 특징이다.
네이버는 ASF 2.0에 AI탭과 쇼핑 AI 에이전트 등 고도화 중인 '온서비스 AI' 전략과 글로벌 AI 생태계의 멀티 모델 환경 확산, AI기본법 제정 등 정책·제도 환경 변화를 반영했다고 설명했다.
ASF 2.0은 AI 서비스의 출시부터 운영 전반에 이르는 모든 단계에서 안전성을 관리하는 것을 목표로 삼았다.
이를 위해 기존 기술 모델 중심의 관리 범위를 멀티 모델 환경 기반 AI 서비스로 확장하고, 성능 중심의 단일 평가 기준도 맥락과 활용 사례, 영향 등으로 세분화했다.
AI 위험 분류 체계에 따라 AI 서비스에서 발생할 수 있는 위험을 유형화하고 AI 영향 평가 매트릭스에 따라 활용 영역과 범위별 예상 영향을 평가한다는 것이다.
이후 지속적 안전성 평가와 사용자 피드백을 통해 이용자가 AI 서비스를 안전하게 쓸 수 있도록 관리한다.
네이버는 서비스 출시 과정에서 ASF 2.0이 일관되게 적용될 수 있도록 전사 실행 체계인 'CHEC 2.0'도 마련했다.
네이버는 AI 탭을 포함해 출시 예정이거나 이미 출시된 AI 기반 서비스들의 안전성을 CHEC 2.0을 통해 지속적으로 점검할 계획이다.
송대섭 네이버 AI 세이프티 정책 리더는 "앞으로도 AI 안전성에 대한 경험과 노하우를 축적하며 학계, 정책, 외부 전문가, 다양한 기관과 협업해 경험과 노하우를 공유하고 발전시켜 나가겠다"고 말했다.
gogo213@yna.co.kr
Copyright 연합뉴스 All rights reserved. 무단 전재 및 재배포 금지.
인기상품 확인하고 계속 읽어보세요!
원치 않을 경우 뒤로가기를 눌러주세요.