다음 내용이 궁금하다면?
불편하시다면 뒤로 가기를 눌러주세요
UNIST 개발 '스포터'…정상정보는 보호·삭제정보 복구는 방지
왼쪽부터 UNIST 윤성환 교수, 박새롬 교수, 하승범 연구원. [울산과학기술원 제공. 재판매 및 DB 금지]
(울산=연합뉴스) 김용태 기자 = 인공지능(AI)이 학습한 민감 개인정보나 저작권 위반 데이터를 지울 때 유사한 정상 정보는 보호하면서 삭제한 정보가 다시 복구되는 것을 막는 기술이 나왔다.
울산과학기술원(UNIST)은 인공지능대학원 윤성환 교수팀과 산업공학과 박새롬 교수팀이 '머신 언러닝'(Machine Unlearning) 기술인 '스포터'(Spotter)를 개발했다고 21일 밝혔다.
머신 언러닝은 학습을 마친 AI에서 특정 데이터나 범주가 미친 영향만 선택적으로 없애는 기술이다. 얼굴 인식 AI에서 삭제를 요청한 사람의 얼굴 정보를 지우거나, 학습 데이터에 포함된 개인정보와 유해 콘텐츠를 제거하는 데 사용된다.
연구팀은 기존 언러닝 기술 약점인 과잉 삭제와 삭제한 정보가 다시 복구될 수 있는 재학습 취약성을 자체 실험으로 진단했다.
기존 언러닝 기술로 AI가 특정 범주를 더 이상 인식하지 못하게 한 결과 전체 평균 정확도는 높게 유지됐지만, 삭제 대상과 닮은 정상 정보에 대한 인식 능력은 떨어지는 것으로 나타났다.
또 삭제 대상 특징이 AI 안에 남아 있어 관련 사진 몇 장만 다시 보여줘도 지웠던 인식 능력이 되살아날 수 있었다.
예를 들어 '고양이'를 삭제했다면 이와 유사한 호랑이나 표범에 대한 인식 정확도가 떨어질 수 있고, 고양이를 인식하는 데 필요했던 개별 정보가 식별 가능한 군집 형태로 남아 있어 고양이 사진 몇 장만 다시 넣어주면 판별 능력을 되살릴 수 있다.
연구팀이 개발한 스포터는 삭제 대상과 비슷한 정상 정보를 구별하는 AI 능력은 그대로 유지하면서, 삭제 대상 정보들에서 공통점을 찾아내는 능력은 없앴다.
이를 통해 지우지 않아야 할 정보에 대한 인식 성능은 보호하고, 삭제 대상 정보의 일부만으로 인식 능력을 되살리는 공격을 막을 수 있다.
소형 이미지 데이터 세트로 실험한 결과 스포터는 삭제 대상에 대한 인식 정확도를 0%로 낮췄으며, 재학습 공격 뒤에도 인식 정확도를 0.24%로 억제할 수 있었다.
반면 기존 언러닝 기술은 사진 5장을 이용한 재학습 공격 뒤 삭제 대상에 대한 인식 정확도가 71.10%에서 최대 99.98%까지 되살아났다.
스포터는 삭제하지 않은 나머지 범주에 대한 인식 정확도를 99.96%로 유지했다.
연구팀은 "스포터는 언러닝 기술 사각지대를 보완하기 위해 개발됐다"며 기존 언러닝 기법에 쉽게 결합할 수 있는 플러그인 형태로 설계돼 얼굴 인식과 유해 콘텐츠 삭제 등 개인정보 보호가 중요한 AI 서비스에 두루 활용할 수 있을 것"이라고 말했다.
연구 결과는 지난 6∼11일 서울에서 열린 '국제머신러닝학회'(ICML·International Conference on Machine Learning)에 채택돼 발표됐다.
연구는 과학기술정보통신부 한국연구재단과 정보통신기획평가원 지원을 받았다.
yongtae@yna.co.kr
Copyright 연합뉴스 All rights reserved. 무단 전재 및 재배포 금지.
인기상품 확인하고 계속 읽어보세요!
원치 않을 경우 뒤로가기를 눌러주세요.