다음 내용이 궁금하다면?
불편하시다면 뒤로 가기를 눌러주세요
성인 사용자, 가족·친구 등 '신뢰하는 사람' 1명 사전 등록
전문 인력 검토 뒤 문자·앱 알림…대화 원문은 비공개
[오픈AI 제공. 재판매 및 DB 금지]
(서울=연합뉴스) 한상용 기자 = 챗GPT 대화에서 중대한 자해 위험 신호가 감지될 경우 사용자가 미리 등록한 가까운 사람에게 이를 알릴 수 있는 안전 기능이 도입된다.
오픈AI는 챗GPT에 '신뢰하는 사람'(Trusted Contact) 등록 기능을 도입한다고 10일 밝혔다.
이 기능은 성인 사용자가 가족, 친구, 보호자 등 신뢰하는 사람 1명을 사전에 등록하면 챗GPT 대화에서 심각한 자해 우려가 감지될 때 현실 세계의 도움과 연결될 수 있도록 지원한다.
오픈AI에 따르면 사용자는 챗GPT 설정에서 신뢰하는 사람 1명을 등록할 수 있다. 국내에서는 성인만 등록할 수 있다.
이 시스템은 사용자의 대화에서 심각한 자해 우려가 있는 표현을 감지하면 챗GPT가 사용자에게 알림 전달 가능성을 안내하고 직접 연락할 수 있도록 대화 예시 등을 제시하는 방식으로 작동한다.
이후 전문 교육을 받은 검토 인력이 상황을 재검토한다.
이들이 실제 안전 우려가 있다고 판단하면 신뢰하는 사람에게 이메일, 문자메시지, 앱 알림 등의 형태로 간단한 알림이 전달된다.
알림에는 개인정보 보호를 위해 대화 원문이나 세부 내용은 포함되지 않는다.
사용자는 언제든 신뢰하는 사람을 수정하거나 삭제할 수 있고, 등록된 연락처도 언제든 연결을 해제할 수 있다.
오픈AI는 이 기능을 자사의 글로벌 의료 전문가 네트워크와 웰빙·AI 전문가 자문위원회 등의 자문을 바탕으로 설계했으며 미국심리학회(APA)를 비롯한 외부 전문 기관과도 협력했다고 전했다.
고기석 오픈AI 정책 총괄은 "사람들은 챗GPT를 통해 문제를 해결하고 개인적 고민을 돌아보기도 하는데 때로는 사용자가 힘든 순간을 겪고 있을 수 있다"며 "AI 시스템은 이러한 상황에서 현실 세계의 도움과 연결될 수 있도록 설계돼야 한다는 취지에서 이 기능이 도입됐다"고 말했다.
[오픈AI 제공. 재판매 및 DB 금지]
앞서 오픈AI는 지난달 24일 생명 존중 문화 확산과 자살 예방 활동을 위한 '2026 천명지킴 프로젝트'의 천명수호처로 선정된 바 있다.
gogo213@yna.co.kr
Copyright 연합뉴스 All rights reserved. 무단 전재 및 재배포 금지.
인기상품 확인하고 계속 읽어보세요!
원치 않을 경우 뒤로가기를 눌러주세요.