다음 내용이 궁금하다면?
불편하시다면 뒤로 가기를 눌러주세요
과기부 AI 연구윤리 가이드 확정…활용 공개·결과 검증 권고
[이태호 제작] 사진합성·일러스트
(서울=연합뉴스) 조승한 기자 = 정부가 국가 연구개발(R&D)에서 인공지능(AI)의 역할을 도구로 제한하고 최종 결과물에 대한 책임과 권리는 연구자에게 귀속된다는 AI 연구윤리 가이드를 내놨다.
과학기술정보통신부는 국가과학기술자문회의 운영위원회 심의·의결을 거쳐 '국가연구개발 AI 연구윤리 가이드'가 확정됐다고 20일 밝혔다.
가이드는 AI는 문헌 조사 등 보조적 도구 역할에 국한하며, AI가 법적·도덕적 의무를 질 수 없는 만큼 저자나 발명자로서 지위나 권리를 가질 수 없다고 명시했다.
또 연구자는 AI 활용의 한계를 인식하고 책임있게 활용해야 하며 기관은 윤리적 AI 활용을 위한 제도적 지원체계 및 윤리적 위험 예방·대응 체계를 마련하도록 책임을 규정했다.
▲ 사실관계 검증 ▲ 주체적 판단 ▲ 투명성 확보 ▲ 결과 신뢰성 관리 ▲ 정책·규정 준수 ▲ 보안 확보 ▲ 개인정보 보호 등 7대 권고사항도 담겼다.
연구자는 AI 생성물의 오류나 핵심 자료 누락, 출처 진위 등을 검증해야 하며 생성물 활용 시 자신의 관점을 반영해 재구성하도록 했다.
AI를 활용한 경우 투명하게 공개해야 하며 R&D 성과 구현 과정을 논리적으로 설명할 수 있도록 해야 한다고도 권고했다.
연구자가 AI 활용 시 규정이나 지침, 가이드를 확인하고 준수하도록 하며 보안이 필요한 연구에서는 허가한 보안 환경 내 도구를 사용하도록 했다.
이외에도 R&D 전 과정에서 개인정보가 포함된 연구데이터를 AI 서비스에 입력하지 않도록 주의할 것을 권고했다.
이와 함께 가이드는 국가 R&D 과제 평가 및 논문 심사 시 평가자가 대상 자료를 외부 AI에 입력할 수 없도록 권고했다.
AI를 활용해 심사 기준을 회피하거나 은닉 프롬프트 등을 통해 평가를 왜곡하는 것도 금지했다.
과기정통부는 이번 가이드라인에 대해 구속력이 있지 않고, 이를 어길 시 제재하거나 할 계획도 없다고 밝혔다.
홍순정 과기정통부 성과평가정책국장은 "AI는 연구의 효율성을 혁신적으로 높일 수 있는 유용한 도구지만 그에 대한 최종 책임은 언제나 연구자에게 있다"며 "이번 가이드가 연구현장에 책임 있는 AI 활용 문화를 정착시키고, 국가연구개발의 연구 진실성을 확보할 수 있는 계기가 되기를 기대한다"고 말했다.
전문가들은 AI 연구윤리 가이드라인이 시급한 측면이 있지만 연구 현장의 현실을 반영하는 세밀함도 필요하다고 조언했다.
이민욱 한국과학기술연구원(KIST) 책임연구원은 "보안 사유로 상용 프론티어 모델 사용을 제한하고 기관 폐쇄망 도구로 대체하는 방향은 원칙적으로 타당하다"면서도 "현재 정부출연연구기관에서 실제 운용 가능한 폐쇄망 모델과 최신 상용 모델 간 성능 격차가 상당하여 연구 품질의 실질적 저하가 우려되며, 이는 오히려 연구자들이 우회로를 찾게 되는 유인으로 작용할 수 있다"고 말했다.
박정빈 부산대 교수는 "연구자는 연구개발기관이 허가한 보안 환경 내의 도구를 사용해야 한다는 조항은 적용 범위와 제한 기준이 명확하지 않아 연구 도구 전반에 대한 포괄적인 사전허가제로 해석될 여지가 있다"며 "개인정보와 기밀자료는 정보의 민감도와 실제 위험에 비례해 보호하되, 새로운 도구를 도입하고 실험하는 연구의 자율성은 존중해야 한다"고 말했다.
또 가이드라인이 제시한 자가진단표와 활용 공개 서식에 대해서도 취지에 공감하지만 또 하나의 서식이 늘 우려가 있다며 행정 부담으로 다가올 수가 있다는 지적도 나왔다.
shjo@yna.co.kr
Copyright 연합뉴스 All rights reserved. 무단 전재 및 재배포 금지.
인기상품 확인하고 계속 읽어보세요!
원치 않을 경우 뒤로가기를 눌러주세요.