정신건강 목적 AI 이용지침 나왔다…"AI 위로가 사람 대체 못해"

불편하시다면 뒤로 가기를 눌러주세요

복지부·대한신경정신의학회 함께 마련…이용자 1천여명 조사 결과 반영

(서울=연합뉴스) 김영신 기자 = 정부가 정신건강 상담 등을 위해 생성형 인공지능(AI)을 이용할 때 과도하게 의존하거나 AI의 답변을 의학적 진단으로 받아들이지 않도록 권고하는 지침을 마련했다.

보건복지부는 대한신경정신의학회와 함께 '정신건강 목적 생성형 AI 이용 지침(가이드라인)'을 만들었다고 8일 밝혔다.

정신건강의 날(10월10일)을 맞아 발표된 가이드라인은 생성형 AI를 정신건강 목적으로 이용하는 국민이 AI에 과의존하는 등 부작용을 예방하고 안전하게 이용하도록 하는 내용을 담았다.

앞서 한국보건사회연구원은 한국리서치에 의뢰해 올해 8월 25일부터 9월 4일까지 최근 1개월 이내 생성형 AI 이용자 15∼79세 1천19명을 대상으로 설문조사를 실시했다.

조사 결과에 따르면 응답자의 81.3%가 과제나 업무, 정보검색 등을 목적으로 생성형 AI를 처음 접하고 이용하나, 68.8%가 일상 대화와 정신건강·심리상담 등 정서적 목적으로도 이용하는 것으로 나타났다.

청소년(15∼18세)의 경우 69.2%가 정서적 목적으로 생성형 AI를 이용했다.

생성형 AI의 답변이나 조언으로 도움을 받거나 문제를 해결한 경험이 있는 응답자는 79.9%였다. AI와 대화를 중단하기 어려운 경험을 한 사람은 16.3%로 조사됐다.

생성형 AI를 이용할 때 개인정보를 보호하기 위해 사적 정보를 걸러 말하거나(61.0%), 특정 인물·단체를 식별할 수 있는 정보는 익명화하거나 생략(56.6%)하는 등 개인정보 보호 조치를 취하는 응답자는 50∼60% 수준이었다.

대화 내용이 외부로 유출되거나 다른 목적으로 활용될 수 있다는 응답은 38.0%였다. 86.9%는 생성형 AI 이용과 관련해 정부의 역할이 필요하다고 답했다.

자신의 정신건강이 나쁘다고 인식하는 사람에게서 AI의 답변을 의학적 진단처럼 받아들이는 경향이 더 크게 나타났다. AI가 제공하는 정신건강 정보를 검증·확인하는 비율은 11.9%에 그쳤다.

가이드라인은 이같은 조사 결과를 반영해 권고 사항을 담았다.

우선 정신건강 목적으로 생성형 AI를 이용하기 전 서비스 목적·대상·효과의 근거와 개인정보 처리 방식을 확인하고, 의학적 효과를 표방하는 서비스는 공인 기관의 검증·승인 여부를 확인하도록 한다.

이름·연락처·주소 등 개인정보와 진단서·처방전·검사결과지 등 민감한 자료는 입력하지 말고 대화의 범위와 종료 시점을 미리 정한다.

AI의 정신건강 진단이나 위험도 평가를 확정적인 의학적 판단으로 수용하지 말고, 다른 가능성과 관점을 함께 확인하도록 한다.

AI가 제공하는 정신건강 정보·조언은 학회·정부기관 등 검증된 자료나 전문가를 통해 확인하고, 자신의 상황과 맞지 않는 내용은 그대로 따르지 않도록 한다.

AI에 과의존하지 않고 AI 이용이 늘거나 가족·친구와 관계가 줄어들 때는 의식적으로 AI와 거리를 두도록 한다.

중요한 결정은 사람, 전문가와 상의하고 위험하거나 부적절한 응답을 받았거나 정신건강이 위기인 상황에는 가까운 사람과 전문기관에 도움을 요청하도록 한다.

아동·청소년과 보호자를 위한 권고 가이드라인도 별도로 마련됐다.

아동·청소년은 원할 때 언제든 AI와 대화를 중단할 수 있음을 인식하고, 고민이나 어려움을 AI에만 털어놓고 있다면 가까운 사람에게 이야기해볼 것 등을 권고한다.

보호자는 아동·청소년의 AI 이용 자체를 무조건 금지하기보다는 아이가 AI를 왜, 어떻게 이용하는지 먼저 이해하고 함께 안전한 이용 방법을 정하도록 한다.

아이가 AI를 통해 얻은 정신건강 정보의 적절성과 타당성 등을 살펴보고, 아이의 AI 이용 시간과 주변 사람과의 관계 변화 등을 관찰하도록 한다.

복지부는 이번 가이드라인이 현장에서 다방면으로 확산하도록 교육 프로그램을 마련할 예정이다. 내년에는 중증 정신질환자를 포함한 고위험군의 특성을 고려한 맞춤형 가이드라인도 만들기로 했다.

shiny@yna.co.kr

인기상품 확인하고 계속 읽어보세요!

5

원치 않을 경우 뒤로가기를 눌러주세요.