다음 내용이 궁금하다면?
불편하시다면 뒤로 가기를 눌러주세요
조정혜 경위 국제학술지 논문…정보 수집 최소화·알고리즘 투명성 확보 제안
[경찰대학 제공. 재판매 및 DB 금지]
(서울=연합뉴스) 한지은 기자 = 인공지능(AI)을 활용한 예방적 대테러 활동에서 인권 보호가 정책의 실효성과 지속가능성을 좌우한다는 연구 결과가 나왔다.
경찰대학 치안정책연구소는 조정혜 경위가 이런 내용을 담은 논문을 스코퍼스(SCOPUS) 등재 국제학술지 '시큐리티 앤드 휴먼 라이츠'(Security and Human Rights)에 게재했다고 15일 밝혔다.
논문은 유엔 인권최고대표사무소(OHCHR)의 원칙을 분석 기준으로 삼아 AI 기반 대테러 전략의 효과성과 인권침해 위험을 살폈다.
주요 위험으로는 대규모 정보 수집·감시에 따른 사생활 침해, 알고리즘 편향으로 인한 차별적 표적화, AI 판단 과정에 대한 설명 부족으로 인한 적법절차 훼손을 제시했다.
광범위한 감시와 불명확한 판단 기준은 시민의 신뢰를 떨어뜨리고, 예측 오류는 치안 자원의 비효율적 배분으로 이어질 수 있다고 분석했다.
특정 집단에 대한 과도한 권리 제한은 소외와 반발을 심화시켜 장기적으로 급진화 위험을 높일 가능성도 있다고 봤다.
이에 AI 활용의 명확한 법적 근거를 마련하고, 정보 수집·분석 범위를 필요한 최소한으로 제한해야 한다고 제안했다.
알고리즘의 투명성과 판단 근거를 설명할 수 있는 체계를 확보하고, 독립적 감시체계를 구축하는 것도 과제로 꼽았다.
경찰대학은 이번 연구에 대해 "AI를 활용한 예방적 대테러 활동의 가능성을 인정하면서도 기술적 효율성과 인권 보호가 상호 보완적으로 작동할 수 있는 제도적 조건을 제시했다는 점에서 의의가 있다"고 평가했다.
writer@yna.co.kr
Copyright 연합뉴스 All rights reserved. 무단 전재 및 재배포 금지.
인기상품 확인하고 계속 읽어보세요!
원치 않을 경우 뒤로가기를 눌러주세요.