[※ 편집자 주 = 한국국제교류재단(KF)의 2024년 발표에 따르면 세계 한류 팬은 약 2억2천500만명에 육박한다고 합니다. 또한 시간과 공간의 제약을 초월해 지구 반대편과 동시에 소통하는 '디지털 실크로드' 시대도 열리고 있습니다. 바야흐로 '한류 4.0'의 시대입니다. 연합뉴스 동포·다문화부 K컬처팀은 독자 여러분께 새로운 시선으로 한국 문화를 바라보는 데 도움이 되고자 전문가 칼럼 시리즈를 준비했습니다. 시리즈는 매주 게재합니다.]

[본인 제공]

◇ 자비스의 탄생, 혹은 우리가 기계에 인격을 입힌 순서

피지컬 AI, 그중에서도 지능을 가진 휴머노이드 로봇의 시대가 성큼 다가오고 있다. 이 역시 이미 신화와 소설 속에서 인간의 상상력을 거쳐 충분히 예행연습을 마친 미래다. 1942년, 아이작 아시모프는 단편소설 '런어라운드'(Runaround)에서 '로봇공학의 3원칙'을 처음으로 명문화했다. 로봇은 인간에게 해를 끼치거나 행동하지 않음으로써 인간이 해를 입게 해서는 안 되고, 첫째 원칙에 위배되지 않는 한 인간의 명령에 복종해야 하며, 첫째와 둘째 원칙에 위배되지 않는 한 자신의 존재를 보호해야 한다는 것이다. 흥미로운 점은 이 원칙이 처음부터 완성된 형태로 등장한 게 아니라는 사실이다. 첫째 원칙의 골자는 1941년 단편 '거짓말쟁이!'(Liar!)에서 먼저 모습을 드러냈고, '런어라운드'에서 세 원칙이 비로소 한 묶음으로 정리됐다. 그리고 1985년 '로봇과 제국'에 이르러 아시모프는 개별 인간이 아닌 인류 전체를 보호 대상으로 삼는 '제0원칙'(로봇은 인류에 해를 끼치거나 행동하지 않음으로써 인류가 해를 입게 해서는 안 된다)을 추가했다. 다른 세 원칙도 이 0원칙을 어길 수 없다.

이 세 원칙, 혹은 네 원칙이 놀라운 것은 단지 SF 소설의 설정에 머물지 않았다는 데 있다. 아시모프 자신부터 '런어라운드'의 본문에서 둘째 원칙(명령 복종)과 셋째 원칙(자기 보존)이 충돌할 때 로봇이 어떻게 망가지는지를 보여줬다. 수성에서 셀레늄을 채굴하라는 명령을 받은 로봇 스피디는, 명령을 따르려고 채굴지로 다가가면 유독가스에 자신이 부식돼 셋째 원칙이 발동해 물러나고, 물러나면 다시 둘째 원칙이 작동해 다가가는 동작을 끝없이 반복하며 그 자리를 빙빙 돈다. 이 장면은 오늘날 AI 안전(AI Safety) 연구자들이 씨름하는 '정렬(alignment) 문제'와 정확히 같은 구조를 갖고 있다. 서로 다른 목표 함수가 충돌할 때 시스템이 어떻게 무너지는가 하는 질문을, 아시모프는 이미 80여 년 전에 짧은 소설 한 편으로 시연해 보인 셈이다. 2017년 유럽연합(EU) 의회가 로봇을 '전자인간'으로 규정하는 '로봇시민법' 결의안을 논의하면서 그 근거로 아시모프의 3원칙을 명시적으로 언급한 것도, 이 허구의 원칙이 실제 입법 논의의 출발점으로 소환된 사례다.

그리고 대중문화는 이 원칙이 현실의 기계에 적용되기 한참 전부터, 인류가 AI 비서를 심리적으로 받아들일 준비를 차근차근 시켜 왔다. 1982년 미국 NBC에서 방영을 시작한 드라마 '전격 Z작전'(Knight Rider)의 인공지능 자동차 키트(K.I.T.T.)는 그저 이동 수단만이 아니었다. 주인공 마이클 나이트와 농담을 주고받고, 위험을 미리 경고하고, 때로는 그의 무모한 지시에 반기를 들기도 하는 개성 있는 파트너였다. 국내에서도 1985년부터 KBS 2TV를 통해 방영되며 한 세대에게 '키트, 도와줘'라는 대사를 남겼다.

2008년 마블 시네마틱 유니버스의 첫 작품 '아이언맨'에 등장한 자비스(J.A.R.V.I.S., Just A Rather Very Intelligent System)는 거기서 한 걸음 더 나아갔다. 토니 스타크의 슈트 시스템과 저택을 제어하고 연구를 보조하는 것은 기본이었고, 위험을 예측해 경고하고, 때로는 농담 섞인 '츤데레'식 잔소리로 감정적 반응까지 내비쳤다. 토니가 위기에 몰릴 때마다 가장 먼저 찾는 이름이 자비스였다는 점은, 극 중에서 자비스가 명령 수행자가 아니라 '지적 동반자'로 설계됐음을 보여준다. 흥미롭게도 2015년작 '어벤져스: 에이지 오브 울트론'에서 자비스는 새로운 인공지능체 비전으로 통합되며 일종의 '죽음'을 맞고, 이후 토니의 곁은 한층 수동적인 AI 프라이데이가 채우게 된다. 인격을 가진 도구가 더 큰 존재로 진화하거나 교체되는 이 설정조차, 지금 우리가 AI 모델을 버전업하며 느끼는 묘한 상실감과 닮았다.

우리가 지금 AI 비서에게 자연스럽게 말을 걸고, 고맙다는 인사를 건네고, 가끔 농담을 던지는 행동은 결코 어느 날 갑자기 생겨난 것이 아니다. 수십 년에 걸쳐 소비된 SF 드라마와 영화가 우리의 뇌 속에 'AI와의 자연스러운 대화'를 위한 인지적 경로를 미리 닦아 놓았다. 기술은 문화적 상상력이 먼저 깔아놓은 길 위를 달린다.

◇ 언어가 곧 지능이라면

신약성서의 요한복음은 '태초에 말씀이 계시니라'로 시작한다. 이 문장의 신학적 의미와 별개로, 그것은 인류가 언어라는 도구에 부여해 온 특별한 위상을 드러낸다. 인간에게 언어는 단순한 의사소통 수단이 아니다. 그것은 세계를 인식하고 구성하는 방식이며, 사고 자체의 형식이다. 언어 없이 복잡한 추상적 사고가 가능한가. 대부분의 인지과학자들은 회의적이다. 언어는 인간을 복잡한 문제의 이성적 해결과 추상적 상상력의 폭발로 이끈 핵심 장치였다. 그렇다면 언어를 완벽하게 다루는 존재는 지능을 가졌다고 말할 수 있는가.

이것이 바로 거대언어모델(LLM)이 우리에게 던지는 철학적 질문이다. 챗GPT, 클로드(Claude), 제미나이(Gemini) 같은 현대의 LLM은 인류가 텍스트로 남긴 방대한 유산을 학습 재료로 삼았다. 그리스 철학자들의 논고, 중세 연금술사의 기록, 셰익스피어의 희곡, 현대 물리학 논문, SNS의 일상적 잡담, 인터넷의 끝없는 하이퍼링크까지가 모두 학습 데이터의 일부였다. 그 결과 LLM은 특정 맥락에서 '다음에 올 가장 적절한 단어'를 예측하는 거대한 확률 기계가 됐다.

그러나 이 '확률 기계'가 내놓는 결과물은 종종 인간의 직관을 넘어선다. 서로 무관해 보이는 두 분야의 개념 사이에서 유추를 끌어내고, 복잡한 법률 문서를 평이한 언어로 옮기고, 시를 짓고, 코드를 짠다. 이것이 순수한 패턴 매칭인가, 일종의 지적 이해인가. 이 질문은 간단한 기술평가가 아니라 인간이 자신의 지능을 어떻게 정의하느냐는 철학적·인문학적 물음이며, 우리는 이 결과물을 마주할 때마다 그 답을 매번 새로 시험받는다. 그리고 이 열린 질문 자체가 이 기술을 여전히 마법처럼 보이게 만드는 원천이다.

◇ 디지털 거울로서의 LLM

LLM의 가장 깊은 속성을 이해하는 데 가장 적절한 비유는 역시 '거울'이다. LLM은 인류가 지금까지 기록한 거의 모든 종류의 텍스트를 학습함으로써, 인류의 집단적 지식과 가치, 편견, 그리고 미래에 대한 꿈을 동시에 흡수한 거대한 거울이 됐다. 그 거울에 비친 것은 아름다운 것만이 아니다. 인종 차별과 성별 편향, 문화적 오만과 역사 왜곡 등 인간의 어두운 면까지 고스란히 포함돼 있다. 인류가 텍스트로 남긴 모든 추악함이 거울 속에 그대로 담겨 있는 것이다.

프랑스 철학자 장 보드리야르는 1981년 저서 '시뮬라크르와 시뮬라시옹'에서 현대 사회가 이미지, 즉 '시뮬라크르'로 현실을 대체해 가는 과정을 분석했다. 흉내 낼 원본이 없는 이미지가 그 자체로 현실을 대체하고, 그 이미지가 오히려 현실보다 더 현실적인 것으로 받아들여진다는 진단이었다. LLM은 보드리야르가 경고한 시뮬라크르의 가장 극단적인 형태로 출현한 것인지도 모른다. LLM이 생성하는 텍스트는 현실 세계의 사실 그 자체에 기반하지 않는다. 그것은 '인류가 써 놓은 텍스트의 통계적 패턴'에 기반해 가장 그럴듯한 답을 내놓는다.

다시 말해 LLM의 출력물은 현실 세계를 글쓴이들의 시각으로 해석해 적어 놓은 텍스트, 그 자체를 한 번 더 비춘 거울의 거울인 셈이다. 그래서 LLM은 실제로 존재하지 않거나 왜곡되거나 학계에서 인정받지 못한 논문을 그럴듯하게 인용하기도 하고, 사실이 아닌 역사적 사건이나 음모론을 마치 정설처럼 서술하기도 하며, 존재하지 않는 인물의 발언을 실제처럼 '기억'해 내기도 한다. 이른바 '환각'(hallucination)이라 불리는 이 현상은 더는 가설이 아니라 현실의 법정에서 비용을 치르는 문제가 됐다. 2023년 미국 뉴욕에서는 변호사가 챗GPT에 의지해 작성한 소송 서면에 실제로는 존재하지 않는 판례 6건이 인용된 사실이 드러나 법원으로부터 제재금을 부과받았고, 한국에서도 2025년 9월 변호사가 제출한 의견서에 AI가 만들어 낸 가짜 판결이 인용된 사례가 알려지면서 법원행정처가 대응 태스크포스를 꾸려 대책을 마련하는 단계까지 이르렀다. 검증되지 않은 거울 속 이미지가 실제 재판정의 의사결정에 끼어든 셈이다.

이것은 마법 거울이 품고 있던 또 다른 위험과 정확히 상응한다. 마법 거울은 언제나 진실을 말한다고 전제되지만, 그 거울이 비추는 현실 자체가 왜곡돼 있다면 거울이 전하는 '진실' 역시 왜곡될 수밖에 없다. 학습 데이터가 편향돼 있다면 AI의 출력 역시 그 편향을 그대로 물려받는다. 거울의 신화와 LLM의 기술적 한계는 결국 같은 철학적 문제를 가리키고 있다. (5편에서 계속)

노석준 RPA 건축연구소 소장

▲ 메타버스 및 가상현실 전문가 ▲ 미국 컬럼비아대ㆍ오하이오주립대ㆍ뉴욕파슨스 건축학교 초빙교수 역임 ▲ 고려대 겸임교수 역임 ▲ 현대자동차그룹 서산 모빌리티 도시개발 도시 컨설팅 및 기획

Copyright 연합뉴스 All rights reserved. 무단 전재 및 재배포 금지.