[AI픽] "AI 통제권은 인간에게"…카카오, 새 AI 윤리 원칙 공개

다음 내용이 궁금하다면?

불편하시다면 뒤로 가기를 눌러주세요

안전·개인정보·책임 등 6대 원칙…연내 이행 체크리스트 도입

(서울=연합뉴스) 오지은 기자 = 카카오[035720]는 자율 에이전트 기술 확산에 발맞춰 AI 윤리 원칙과 이행 가이드를 만들었다고 15일 밝혔다.

카카오는 지난 13일 개발자 콘퍼런스 이프카카오(if(kakao)26)에서 새 AI 윤리 원칙 스피릿(SPIRIT)과 실행 체계 노르마(NORMA)를 공개했다.

새 윤리 원칙인 스피릿은 안전(Safety), 프라이버시(Privacy), 포용(Inclusivity), 책임(Responsibility), 이용자 주체성(Individual Autonomy), 투명성과 신뢰성(Transparency & Trustworthiness) 등 6개 핵심 요소로 구성됐다.

정부의 대한민국 인공지능 윤리원칙 3대 가치와 7대 원칙을 바탕으로 서비스 특성에 맞게 고도화했다.

실행 체계인 노르마는 복잡한 윤리 과제를 조직적 차원에서 관리·실행할 수 있는 단계로 구체화하는 방식을 뜻한다.

이번 기준은 지난 7월 출범한 외부 자문단 7인 및 카카오 내 AI 세이프티·개인정보·보안 등 실무 조직이 협력해 이달 초 마련했다.

카카오는 자율 에이전트의 리스크를 통제 주도권, 목표, 권한, 참조 자원, 상호작용 등 5대 영역으로 분류해 인간 감독과 비상 제어 등 통제 장치를 마련했다.

이를 바탕으로 구성된 AI 윤리 이행 체크리스트는 연내 정식 도입될 예정이다. 아울러 OECD ·유니세프 기준을 반영해 아동·청소년 보호 점검 요소도 강화한다.

김세웅 카카오 AI&기술윤리소위원회 위원장은 "외부 자문단과 내부 관점을 종합해 AI 전 주기 리스크 검토 체계를 구축했다"며 "AI 자율성이 높아질수록 인간의 판단과 책임을 명확히 해 안심할 수 있는 서비스를 제공하겠다"고 말했다.

built@yna.co.kr

오아시스마켓, 8주년 기념 고객 감사제…20% 할인쿠폰 [AI픽] 네이버 AI 연구 세계 무대서 인정…국제학회

인기상품 확인하고 계속 읽어보세요!

5

원치 않을 경우 뒤로가기를 눌러주세요.