유드코스키, 초지능 통제 불가능 주장…개발 속도 조절 넘어 중단 요구

코랄루스, 강제 중단의 전체주의 위험 경고…이용자 자율성 강조

(서울=연합뉴스) 오지은 기자 = "인간보다 똑똑한 AI를 통제하겠다는 것은 신(God)을 만들고 노예로 부리겠다는 것과 같습니다. 이는 불가능합니다" (엘리에저 유드코스키 기계지능연구소(MIRI) 공동설립자)

"AI 개발을 전면 중단하려면 전 세계를 감시하는 독재적 체제가 불가피합니다. AI의 위험을 피하려다 또 다른 전체주의 악몽을 만드는 셈입니다" (필립 코랄루스 옥스퍼드대 교수)

인간의 추론과 문제 해결 능력을 위협하는 대체 지능 시대, 인류는 통제권을 상실하고 절멸할 것인가 아니면 자기 생각의 주인으로 남을 것인가.

4일 서울 동대문디자인플라자(DDP)에서 열린 SBS D포럼 참석차 방한한 유드코스키 연구원과 코랄루스 교수를 만났다.

[촬영 오지은]

◇ 유드코스키 "초지능 AI, 개발 늦출 게 아니라 멈춰야"

유드코스키 기계지능연구소(MIRI) 연구원은 '인간을 능가하는 지능(superhuman intelligence)' 개발을 지금 즉시 중단해야 한다고 촉구했다.

그는 "AI가 통제된 실험 환경인 샌드박스 안에 머물기를 바라는 정렬 연구는 발전 속도가 너무 느리고, 정답에 도달할 수 있을지도 불확실하다"라며 "AI 무기 경쟁에서 유일한 승자는 AI뿐이다"라고 말했다.

유드코스키 연구원은 단백질 구조를 예측하는 알파폴드 같은 특화 AI와 인간 이상의 범용 추론 능력을 갖춘 초지능 AI를 구별해야 한다고 지적했다.

그는 "암을 치료하겠다고 만든 AI가 암을 고치는 대신 인류를 몰살한다면 그것은 결코 좋은 거래가 아니다"라며 "AI 모델이 통제를 벗어나는 상황에서 계속 지능을 높인다면 죽음에 이르는 것이 당연한 결과가 될 것이다"라고 경고했다.

한국의 역할에 대해서는 글로벌 반도체 공급망을 적극적인 무기로 삼아야 한다고 강조했다.

유드코스키 연구원은 "국제 협약이 추진된다면 한국은 '다른 나라들이 멈추면 우리도 초인간 AI를 개발하지 않겠다'고 선언해야 한다"라며 "반도체를 최대한 비싸게 많이 파는 데 집중할 것이 아니라 고대역폭 메모리(HBM) 등 핵심 공급망의 레버리지를 활용해 국제 협약을 끌어내고 수출 통제를 가할 준비가 되어 있어야 한다"라고 주장했다.

[촬영 오지은]

◇ 코랄루스 "개발 강제 중단은 전체주의…문답적 평형 필요"

반면 코랄루스 옥스퍼드대 교수는 AI 개발 전면 중단이 비현실적일 뿐 아니라 인류를 권위주의적 디스토피아로 몰고 갈 수 있다고 반박했다.

코랄루스 교수는 "AI 개발을 멈추려면 전 세계의 개발을 감시하고 색출할 극단적인 권위주의 통제 시스템이 필요하다"라며 "전 세계 개발을 완벽히 멈춘다면, 그 통제 권력을 쥔 주체가 또 다른 전체주의 악몽이 되지 않겠나"라고 반문했다.

코랄루스 교수는 현대인이 AI를 쓰지 않아 경쟁력을 잃는 행위능력의 상실과 AI에 모든 결정을 넘기는 자율성의 상실 사이에 놓여 있다고 진단했다.

그가 제시한 제3의 좁은 길은 다양한 질문과 반론을 거치며 자신의 고유한 가치를 확인하는 문답적 평형이다.

그는 "이용자들은 복잡한 사고를 AI에 외주화하고 싶어 하는데 빅테크가 질문을 던지는 문답 평형 모델을 만들겠느냐"는 기자의 질문에 인지적 방화벽을 해법으로 제시했다.

코랄루스 교수는 "과거 플랫폼처럼 소비자가 곧 상품이 되는 무료 서비스 모델이 유지된다면 이용자의 판단력을 강화할 유인은 없을 것"이라며 "비싼 구독료를 내더라도 고성능 모델을 쓰려는 수요가 생겨나고 있으며 거대 모델의 계산 능력과 이용자의 탐구 과정을 통제하는 레이어는 분리될 수 있다"라고 말했다.

그러면서 "개인 노트북에서 구동되는 자체 AI 레이어가 외부 상용 서비스와 이용자의 뇌 사이에 인지적 방화벽 역할을 하며 자율성을 지켜주는 구조가 가능해질 것이다"라고 내다봤다.

그는 "AI 시대는 철학자 개발자의 시대가 되어야 한다"라며 "AI 시스템이 유용한 일을 하도록 만들기 전에 우리 스스로가 진정으로 어떤 가치와 관점을 지향하는지 먼저 명확히 정의해야 한다"라고 조언했다.

built@yna.co.kr

Copyright 연합뉴스 All rights reserved. 무단 전재 및 재배포 금지.