다음 내용이 궁금하다면?
불편하시다면 뒤로 가기를 눌러주세요
생성형 AI 환각 현상 우려…"명확한 검증·사후점검 체계 갖춰야"
[강민지 제작] 일러스트
(서울=연합뉴스) 이미령 기자 = 사법부의 자체 생성형 인공지능(AI) 시스템인 '재판지원 AI'에서 7개월간 27만건의 질의응답이 이뤄진 것으로 나타났다.
다만, AI 결과를 실제 판결문이나 결정문에 직접 활용했는지는 별도로 관리하지 않아 점검 체계가 필요하다는 지적도 나온다.
20일 대법원이 국회 법제사법위원회 소속 더불어민주당 이성윤 의원실에 제출한 자료에 따르면 지난달 말 기준 사법부 재판지원 AI에 입력된 질의와 출력된 답변 건수는 각각 27만1천839건이었다.
올해 2월 오픈한 재판지원 AI는 법률 지식이나 특정 사건의 법적 쟁점에 대해 질의하면 유사도가 높은 판례와 관련 법령·문헌 등을 종합해 요약·정리된 답변을 내놓는 시스템이다.
사법부 자체 AI 플랫폼을 기반으로 하며 법관을 비롯한 법원 직원들이 활용한다.
지난달 말까지 재판지원 AI를 이용한 법관 수는 3천178명으로, 법관 질의 건수는 13만536건이었다.
법관 1인당 평균 질의 건수는 41건 수준인 셈이다.
질의량이 가장 많았던 한 지방법원 법관은 7개월간 총 749건을 질의했다.
다만, AI가 잘못된 정보를 그럴듯하게 제시하는 환각(할루시네이션) 현상은 생성형 AI의 주요 문제로 꼽힌다.
소송 당사자가 법원에 제출한 서류에 허위 사건번호나 판례를 인용해 문제가 된 사례도 있다.
이에 법원 내부에 공유된 '재판지원 AI 사용자 설명서' 역시 "생성형 AI 특성상 허위 정보 제거가 완벽하지 않아 생성결과 법령 조항과 사건번호가 존재하는지 반드시 확인이 필요하다"고 명시하고 있다.
그러나 정작 'AI 생성 결과를 판결문이나 결정문 작성에 직접 활용한 현황을 파악·관리하고 있는지'에 대한 질문에 대법원은 "직접 활용한 사례는 확인된 바 없다"며 "별도로 관리되고 있지 않다"고 답했다.
AI가 생성한 판례·법령·법률 검토 결과를 법관이 재판 업무에 활용하는 경우의 검증과 관련한 별도 규정도 없는 것으로 나타났다.
다만, 올해 2월 법원이 발간한 AI 가이드북에서 'AI의 오류 가능성을 전제하고 별도 검증을 거쳤는가'를 실무 체크리스트에 포함해 자체 점검하도록 하고 있다.
이성윤 의원은 "AI는 재판업무의 효율성을 높이는 보조수단이 될 수 있지만 국민의 권리와 직결되는 재판에 활용되는 만큼 정확성과 검증 가능성이 무엇보다 중요하다"며 "AI 활용 과정에서 오류가 실제 판단에 영향을 미치지 않도록 명확한 사용기준과 검증·사후 점검 체계를 갖춰야 한다"고 말했다.
already@yna.co.kr
Copyright 연합뉴스 All rights reserved. 무단 전재 및 재배포 금지.
인기상품 확인하고 계속 읽어보세요!
원치 않을 경우 뒤로가기를 눌러주세요.