[AI픽] AI가 바꾼 전쟁…"인간 자율성 심각하게 축소"

불편하시다면 뒤로 가기를 눌러주세요

과기한림원 토론회 "의미 있는 인간 통제 장치 마련해야"

(서울=연합뉴스) 박상현 기자 = 전쟁에서 의사결정과 무기체계 운용과 관련해 인공지능(AI) 활용도가 높아지는 가운데 전쟁 AI가 인간의 자율성을 심각하게 축소한다는 분석이 나왔다.

한국과학기술한림원 정책학부장인 홍성욱 서울대 과학학과 교수는 한림원이 23일 오후 프레스센터에서 개최하는 '전쟁과 AI, '인간 통제'는 가능한가' 토론회에서 이 같은 견해를 밝힌다.

홍 교수는 이날 공개된 발표문에서 "전쟁 AI는 단순한 무기가 아니다"라며 다양한 측면에서 인간 자율성을 축소한다고 주장했다.

그는 전쟁 AI의 등장으로 인간이 심사숙고할 시간이 줄어들고, 이에 따라 빠른 판단을 압박받는 인간이 기계를 맹목적으로 신뢰하고 검증을 포기할 수 있다고 우려했다.

이어 전쟁 AI가 인간의 비판적 사고 대신 즉각적 행동과 무기 발사 등을 유도하고, 미사일 오폭 등이 발생할 경우 책임이 분산돼 인간 고유의 도덕적 감각이 마비될 수 있다고 덧붙였다.

홍 교수는 "최고 지휘관이 자율 무기의 모든 결과에 대한 책임을 공개적으로 선언하는 제도가 필요하다"며 인간과 비인간이 결합해 폭력을 정당화하는 하이브리드 네트워크를 해체하고 기술 정치적으로 AI를 재배치해야 한다고 제언했다.

또 다른 발표자인 천현득 서울대 과학학과 교수도 "AI가 사실상의 전략적 행위자가 되고 인간 지휘관의 역할이 축소될 수 있다"며 "AI 결과물이 인간 판단보다 더 우월한 것으로 인식되면 지휘관은 자신의 책임을 회피하고 기계에 전가할 수 있다"고 밝혔다.

천 교수는 AI가 전쟁을 더 빠르고 치명적이며 비대칭적으로 만들 수 있다며 '의미 있는 인간 통제'가 가능할 것인지가 과제라고 지적했다.

정진호 한국과학기술한림원 원장은 "AI의 군사적 활용은 안보 딜레마의 영역에 접어들고 있다"며 "토론회를 통해 전쟁 AI 시대에 필요한 인간의 통제와 책임의 기본 원칙을 제시하고자 한다"고 밝혔다.

psh59@yna.co.kr

인기상품 확인하고 계속 읽어보세요!

5

원치 않을 경우 뒤로가기를 눌러주세요.