입모양·목소리 함께 분석…경찰, AI 조작물 탐지 고도화한다

불편하시다면 뒤로 가기를 눌러주세요

생성·유포 과정 추적 도구 개발…시도청에 AI 전문분석관 배치

(서울=연합뉴스) 한지은 기자 = 경찰이 영상 속 입 모양과 목소리, 자막 등을 함께 분석해 인공지능(AI) 조작물을 가려내는 시스템 구축을 추진한다.

경찰청 국가수사본부는 AI 악용 범죄에 선제적으로 대응하고자 이런 내용을 담은 'AI 불법 조작물 탐지·분석체계 고도화 기본계획'을 수립해 시행한다고 15일 밝혔다.

경찰은 우선 영상·이미지뿐 아니라 음성과 문자까지 함께 분석하는 '멀티모달' 딥페이크 탐지 기술을 개발하고 있다.

영상 속 입 모양과 목소리가 맞는지, 음성과 자막의 내용이 일치하는지 등을 종합적으로 살펴 조작 여부를 판별하는 방식이다.

해당 연구는 지난해부터 내년까지 3년간 예산 91억원을 들여 진행한다.

연구개발이 완료되면 경찰을 비롯한 수사기관이 공동으로 활용할 수 있는 시스템 구축도 추진할 계획이다.

아울러 2024년부터 도입해 활용 중인 딥페이크 탐지 시스템에 한국인 맞춤형 자료를 학습시켜 국내 환경에 맞게 성능을 개선하고 있다.

조작 여부를 판별하는 데서 나아가 어떤 프로그램으로 조작물을 만들고 유포했는지 분석하는 기술도 강화한다.

경찰은 주요 생성형 AI 서비스의 실행 이력과 명령어 기록을 분석하고, 조작에 사용된 프로그램을 식별하는 기법 등을 개발해 설명서를 보급하고 있다.

불법 조작물의 생성·유포 과정을 분석해 증거를 추출하는 자동화 도구 개발도 추진한다.

이와 관련해 올해부터 2029년까지 4년간 예산 100억원을 투입하는 '로컬환경 인공지능 모델 대상 포렌식 기술개발' 연구를 진행 중이다.

경찰은 지난 5월부터 전국 시도경찰청에 AI 조작물 분석을 담당하는 수사관을 'AI 분석전문관'으로 지정해 운영하고 있다.

현재 전국에 52명이 활동 중이며, 수사관과 분석관을 대상으로 관련 전문교육도 확대할 계획이다.

이와 함께 탐지·분석 절차를 표준화하고 민·관·학 전문가 그룹을 운영해 최신 기술과 분석 성과도 공유할 방침이다.

김종철 경찰청장 직무대행은 "AI로 만든 가짜를 신속하게 찾아내는 것은 물론, 어떻게 만들어지고 유포됐는지까지 효과적으로 추적할 수 있는 첨단 수사 역량을 갖추겠다"고 말했다.

writer@yna.co.kr

인기상품 확인하고 계속 읽어보세요!

5

원치 않을 경우 뒤로가기를 눌러주세요.