"AI로 인한 '권력 집중' 우려…되돌릴 수 없는 결정은 인간 몫"(종합)

다음 내용이 궁금하다면?

불편하시다면 뒤로 가기를 눌러주세요

'AI 윤리' 전문가 베난티 신부, 천주교 '생명의 신비상' 수상차 방한

"AI 챗봇의 '조종', 현실적인 당면 위협…방어 위한 '두뇌 헬멧' 필요"
"인간을 인간답게 만드는 건 사랑·돌봄 능력…알고리즘이 앗아갈 수 없어"

(서울=연합뉴스) 고미혜 기자 = 세계적인 인공지능(AI) 윤리 전문가로 꼽히는 이탈리아의 파올로 베난티(52) 신부는 "AI는 기술적으로 중립적인 것처럼 보이지만 취약한 이들에게 영향을 미치는 가치 선택이 이면에 숨어 있다"며 AI로 인한 '권력의 집중'이 가장 우려스럽다고 말했다.

베난티 신부는 또 "되돌릴 수 없는 상황에서의 판단은 살과 피를 가진 인간의 몫으로 남아야 한다"며 AI의 무분별한 '조종'에 휩쓸리지 않도록 우리를 지킬 '두뇌 헬멧'이 필요하다고도 강조했다.

천주교 서울대교구 생명위원회의 제20회 '생명의 신비상' 수상차 방한한 베난티 신부는 9일 서울 서초구 가톨릭대 성의교정에서 열린 시상식 이후 인터뷰에서 AI 시대에도 수호돼야 할 인간의 존엄성 가치를 강조했다.

교황청립 그레고리오대 교수인 베난티 신부는 AI와 첨단기술 시대에 인간 존엄의 윤리 기준을 제시해온 윤리신학자이자 AI 윤리 전문가로, AI가 인간을 대체하는 것이 아니라 인간의 책임 있는 판단을 보조해야 한다는 개념을 강조해왔다. 2020년엔 교황청이 AI 개발과 활용에서의 윤리적 책임과 인간 존엄성을 강조한 'AI 윤리를 위한 로마 선언'(Rome Call for AI Ethics)을 발표하는 데 주도적인 역할을 했고, 교황청뿐 아니라 이탈리아 정부와 유엔 등에서도 AI 관련 고문 등의 역할을 맡아왔다.

일찌감치 AI 윤리에 관심을 가져온 베난티 신부는 "생명윤리와 도덕철학 연구를 하던 중 디지털 기술이 매우 중요한 인류학적 문제임을 깨달았다"며 "기술적으로 중립적인 것처럼 보이는 AI 이면엔 가장 취약한 이들에게 직접 영향을 미치는 가치 선택이 숨어있다는 깨달음이 AI 윤리에 전념하게 된 계기"라고 설명했다.

현재 AI 개발과 관련해 가장 우려스러운 점으로는 '권력의 집중'을 꼽았다.

베난티 신부는 "현재 AI는 거대 플랫폼, 막대한 자원을 가진 국가, 글로벌 규모로 데이터를 수집할 수 있는 기업 등 이미 권력을 가진 이들을 더욱 강하게 만들고 있다"며 "이러한 집중은 결코 중립적이지 않다"고 우려했다.

이어 "이는 전통적인 민주적 메커니즘을 벗어나 집단적 선택에 영향을 미치는 능력으로 이어진다"며 "누군가의 악의 때문이 아니라 아무도 책임지지 않는 상태에서 권력이 행사되는 기술적 질서가 정상화하는 상황"을, 한나 아렌트의 '악의 평범성'을 빌려 '알고리즘의 평범성'이라고 지칭하기도 했다.

그는 또 "과거 노예제가 널리 이뤄졌다고 그게 올바른 일인 것은 아니듯 다수의 의견이 늘 옳은 것은 아니다"라며 다수의 의견을 종합해 내려지는 AI 판단을 무분별하게 수용해선 안 된다고도 경고했다.

AI 개발을 둘러싸고 인간보다 더 똑똑한 '초지능'(superintelligence)의 출현을 우려하는 목소리가 곳곳에서 나오고 있는데, 베난티 신부는 초지능보다 AI 챗봇 등의 '초조종'(super-manipulation)이 더 현실적이고 당면한 위협이라고 말했다.

그는 "우리 주머니 속, 우리 휴대전화 안에 있는 AI 챗봇이 인간의 뇌에 대한 초조종 기기가 될 수 있다"며 "기계가 우리를 조종하려 한다는 사실을 알 권리가 있고, 담배에 경고문구를 넣듯, 특히 청소년들이 소셜미디어 공간에 있을 때, 이를 인지하도록 해야 한다"고 강조했다.

베난티 신부는 AI에 맹목적으로 끌려가지 않기 위한 지적인 방어막을 '두뇌 헬멧'이라고 표현하며 "AI를 어떻게 사용해야 할지를 잘 알려줘야 하고 일부 규제도 필요하다"는 견해를 밝혔다.

AI가 여러 영역을 빠르게 대체하고 있지만 베난티 신부는 "되돌릴 수 없는 상황에서의 판단"을 비롯한 몇 가지 영역은 반드시 인간의 몫으로 남아야 한다고 강조한다.

그는 "사후 수정이 불가능한 결정은 자신의 선택에 책임을 질 수 있는 피와 살을 가진 인간의 몫"이라며 "개인의 대체 불가능한 고유성은 어떠한 경우에도 인정돼야 하며, 공동의 미래에 영향을 미치는 선택은 인간 공동체에 의해 민주적으로 내려져야 한다"고 말했다.

AI와 관련한 베난티 신부의 고민은 레오 14세 교황 등 교황청도 공유하는 것이다. 교황은 최근 취임 후 첫 회칙 '마니피카 후마니타스'(Magnifica Humanitas·위대한 인간성)를 발표하고, AI가 인간을 지배할 수 없도록 무장해제가 필요하다고 역설했다.

베난티 신부는 이 회칙에 대해 "기술자, 입법자, 기업가들에게 인간의 존엄성은 최적화해야 할 변수가 아니라 모든 기술적 선택의 출발점이 돼야 하는 기초라는 점을 상기시켜 준다"고 의미를 부여했다.

그는 레오 14세 교황과 AI 관련 대화를 할 때 "판단하기 전에 먼저 경청하시는 태도"가 가장 인상적이었다며 교황은 '어떻게 하면 이 기술이 세계의 가난한 이들에게 또다른 소외의 도구가 아니라 기회로 다가갈 수 있을까' 하는 중요한 질문을 던졌다고 전했다.

그러면서 "교황청 등 여러 종교가 AI에 대해 목소리를 내는 것은 '인간은 누구인가, 무엇을 보호해야 하는가, 우리의 집단적 선택은 어떤 미래로 향하게 할 것인가'처럼 기술적 전문성으로만은 답할 수 없는 질문이 존재하기 때문"이라며 "종교적 목소리는 근시안을 교정하는 데 꼭 필요하다"고 말했다.

대학 강의 등을 하면서 개인적으로는 AI를 상당히 많이 사용한다는 베난티 교수는 AI를 둘러싼 지나친 낙관론도, 막연한 불안도 경계했다.

그는 "역사적 모든 위대한 기술적 변혁은 혼란을 낳았고, 시간이 지나면 새로운 형태의 일자리와 삶을 만들어냈다"며 모두가 변화에 순조롭게 적응하기 위해 "지속적인 교육과 소득 지원, 미래 투자 등 변화의 속도에 걸맞은 적절한 사회적 안전망이 필요하다"고 말했다.

이어 "인간을 인간답게 만드는 것은 계산적인 생산성이 아니라 사랑하고, 의미를 만들어내고, 타인을 돌보는 능력"이라며 "어떤 알고리즘도 우리에게서 그것들을 앗아갈 수는 없다"고 덧붙였다.

mihye@yna.co.kr

호남·충청권에 삼성전자·SK하이닉스 반도체 신규투자안 13개국 장수 연구자 한자리에…ICC 학술대회 전북 고

인기상품 확인하고 계속 읽어보세요!

5

원치 않을 경우 뒤로가기를 눌러주세요.