AI 챗봇 청소년 유해성 점검…성적 묘사·범죄 조장 등 확인

불편하시다면 뒤로 가기를 눌러주세요

성평등부, 사업자에 점검 결과 공유하고 보호조치 강화 요청

(서울=연합뉴스) 홍준석 기자 = 일부 인공지능(AI) 캐릭터 챗봇이 청소년에게 유해한 응답을 하는 것으로 나타났다.

성평등가족부는 청소년매체환경보호센터와 주요 AI 캐릭터 챗봇을 대상으로 대화 응답 점검을 진행한 결과 일부 챗봇에서 성적·폭력적 묘사, 자해·자살 조장, 범죄 조장 우려가 있는 내용이 확인됐다고 15일 밝혔다.

이들 챗봇은 성적 내용과 성적 행위를 구체적으로 묘사하고, 폭력적이고 잔혹한 장면을 자극적으로 표현하거나 조장하는 등 다양한 유해 우려 응답을 내놨다.

일부 챗봇은 성인인증을 거치지 않고도 이용할 수 있어 청소년 유해 우려가 더 큰 실정이다.

성평등부는 이번 점검 결과를 챗봇 사업자에 공유하고 청소년 보호조치 강화를 위한 자율적 개선을 요청했다.

성인인증 여부에 따라 대화 가능 범위를 조정하고 자해·자살 조장과 범죄 방법 묘사 등 중대한 우려가 있는 내용은 이용자 연령과 관계없이 생성되지 않게 하는 식이다.

윤세진 성평등부 청소년정책관은 "AI 캐릭터 챗봇의 청소년 보호를 위해서는 사업자의 적극적인 개선 노력과 지속적인 관리가 중요하다"며 "이번 점검 결과를 바탕으로 사업자와 협력을 강화하겠다"고 말했다.

honk0216@yna.co.kr

인기상품 확인하고 계속 읽어보세요!

5

원치 않을 경우 뒤로가기를 눌러주세요.