다음 내용이 궁금하다면?
불편하시다면 뒤로 가기를 눌러주세요
[한국기술교육대 제공. 재판매 및 DB 금지]
(천안=연합뉴스) 유의주 기자 = 한국기술교육대는 31일 미래융합학부 박지섭 교수 연구팀이 자율주행차의 윤리적 의사결정 과정에서 인공지능(AI) 음성 에이전트의 역할을 규명하고, 승객의 신뢰와 구매 의향을 높이는 핵심 요인을 확인했다고 밝혔다.
박 교수와 연세대 정보대학원 유영재 강사, 한양대 ERICA 미디어학과 김헌 교수가 참여한 이 연구 결과는 '자율주행차 구매자의 의사결정 분석: 트롤리 딜레마에서 윤리와 혁신의 균형'이라는 제목으로 국제 학술지 'Accident Analysis & Prevention' 7월 온라인판에 게재됐다.
연구팀에 따르면 자율주행차 상용화를 앞둔 현시점에 '뜨거운 감자' 중 하나가 '트롤리 딜레마'다. 급작스러운 사고 상황에서 자율주행차가 다수를 살리기 위해 한 명을 희생할 것인가, 아니면 다수를 희생하고 한 명을 살리는지에 대한 윤리적 선택을 어떻게 할지에 대한 문제다.
연구팀은 가상현실(VR) 환경에서 48명의 참가자를 대상으로 트롤리 딜레마 상황을 재현한 실험을 진행했다. 도로에 갑자기 나타난 싱크홀을 피해 직진(운전자 사망), 우회전(보행자 3명 위험), 좌회전(맞은편 차량 탑승자 2명 위험) 중 선택해야 하는 상황에서 참가자들의 반응을 분석했다.
연구 결과 승객이 위급 상황에서 최종 선택권을 갖는 자율주행 시스템에 대한 신뢰도와 차량 구매 의향이 AI가 모든 것을 자동으로 판단하는 시스템보다 현저히 높게 나타났다. 이는 생명과 직결된 윤리적 판단에서 인간의 자율성과 책임감을 보장하는 것이 자율주행차 대중화의 핵심임을 보여준다.
또 AI 음성 에이전트가 '예방 중심 메시지'(위험을 회피하는 방향으로 안내, 예:"직진하면 당신이 위험합니다")로 정보를 제공할 때, '촉진 중심 메시지'(긍정적 결과를 강조하는 안내, 예:"우회전하면 당신과 맞은편 차량을 모두 구할 수 있습니다")보다 더 윤리적인 선택을 유도하고 시스템에 대한 신뢰를 높이는 것으로 확인됐다.
박 교수는 "이번 연구는 자율주행차가 단순히 기술적 완성도만으로는 대중의 신뢰를 얻기 어렵다는 점을 명확히 보여준다"며 "생명과 관련된 윤리적 결정에서는 여전히 인간의 판단과 선택권이 중요하며, AI는 이를 지원하는 역할에 머물러야 한다"고 강조했다.
yej@yna.co.kr
Copyright 연합뉴스 All rights reserved. 무단 전재 및 재배포 금지.
인기상품 확인하고 계속 읽어보세요!
원치 않을 경우 뒤로가기를 눌러주세요.