바벨탑 교훈보다 강력한 욕망과 불신의 본능…美中 AI 쟁패는 오히려 가속 중

(서울=연합뉴스) 이승우 선임기자 = 인공지능(AI)이 두려울 만큼 빠르게 발전하면서 AI 개발 속도를 늦춰야 한다는 속도 조절론이 대두됐다. AI 개발까지 AI에 맡기는 비율이 늘자 언젠가는 재귀적 자기개선(RSI)을 통한 '지능 폭발'이 일어나 인류가 멸망하거나 소외될 것이란 극단적 전망까지 나오면서다. 학계는 물론 해당 업계에서조차 AI 개발을 통제하자고 요구할 만큼 위기감이 커졌다. 최근 AI 석학과 빅테크 책임자 22명은 무분별한 AI 개발 위험성을 경고하며 안전장치 마련을 촉구하는 논문을 공동 발표했다.

[로이터=연합뉴스 자료사진. 재판매 및 DB 금지]

논문에는 'AI 아버지' 제프리 힌턴 토론토대 명예교수 같은 학자들 외에도 잭 클라크 앤트로픽 공동창업자, 야쿠프 파호츠키 오픈AI 수석과학자, 에릭 호비츠 마이크로소프트(MS) 최고과학책임자(CSO), 던 송 메타 AI 연구 담당 부사장 등 현업 AI 기술 책임자들이 참여했다. 이들은 AI의 탄생과 개발을 국제적으로 주도해온 인물들인데도 "이젠 쉬어갈 때"라는 주장을 내놓고 있다. 이들의 우려는 AI 에이전트의 동작을 인간 역량으로 감독하기 어려워 다른 AI를 투입해 감시해야 할 위기에 달했다는 것으로 요약된다.

AI는 이렇듯 인류에게 실체적 위협으로 부상했다. 하지만 속도 조절론이 실제로 현실에서 먹힐지는 또 다른 문제다. 변하기 힘든 인간 본성 탓에 속도 조절은 결국 어려울 거란 전망이 많다. 명분이 있고 필요성을 알아도 결국 인간 본성의 DNA는 실리를 좇도록 설계돼 있다. 앞으로 모든 분야를 지배할 게 뻔히 예고된 AI 기술 패권을 놓치고 싶은 국가나 기업은 없다. 뒤처질 경우 단순히 도태 수준을 넘어 완전 소멸로 이어지는 생존 문제가 되기 때문이다. 구약 성경에 나오는 바벨탑 일화 역시 알아도 멈출 수 없는 인간의 욕심, 교만, 경쟁심을 드러내는 서사다.

이처럼 인간 본능의 한계로 브레이크를 밟을 수 없는 구조적 상황은 게임이론을 비롯한 사회과학에서 여러 용어로 개념화됐다. '죄수의 딜레마'와 '치킨 게임'이 대표적이다. 죄수의 딜레마는 두 주체가 서로 협력하면 최선에 도달할 수 있지만, 결국 상대를 불신해 각자 이익을 추구하다 모두 최악의 결과를 맞는다는 개념이다. 치킨 게임에선 서로를 향해 정면 돌진하는 두 운전자 중 먼저 핸들을 꺾는 쪽이 지게 된다. 하지만 상대도 피하지 않으면 결국 둘 다 파국을 맞는 극한 대립이다. '달리는 호랑이 등에 탄 격'이란 말도 있다. 등에서 내리는 순간 호랑이에 잡아먹히므로 위험하지만 계속 달릴 수밖에 없다.

세계적인 AI 기업 간 경쟁이 딱 이런 형국이다. 겉으로는 속도를 조절하자고 하지만, 사실 서로를 믿을 순 없다. 신기술은 속도가 생명인 만큼 한 기업이 앞서나가면 빨리 따라잡아야 하는데, 어떨 땐 한 번 뒤처지면 추월은커녕 추격조차 불가능해지기도 한다. 어느 기업이 극비리에 신기술을 개발 중인지도 알 수 없으니 더 초조해진다. AI 탓에 공멸하는 건 먼 미래 인류 전체가 함께 맞을 모호한 문제이고, AI 분야를 선도하느냐 여부엔 당장 기업과 개인의 생존이 걸렸다. 이런 문제들에서 인간이 후자를 택해온 건 도덕적 잣대로만 재단할 수 없는 본능이다.

AI 양대 강국이면서 현재 지구촌 패권을 다투는 미국과 중국 간 AI 개발 경쟁 역시 마찬가지다. 승자독식 (Winner-Takes-All) 개념은 첨단 신기술 업계에서 진리로 인식되는데, 국가 간 관계에선 이 현상이 더 두드러진다. 미·중 양국 가운데 AI 경쟁에서 지는 쪽은 2등 국가로 추락에서 끝나지 않고 소멸 위기에 처할 수 있다. 그게 제국의 운명이다. 특히 앞으로 전쟁의 양상이 'AI 무인 전쟁'으로 흘러갈 것으로 전망되는 건 양국이 AI 경쟁을 결코 포기할 수 없는 핵심 지점이다.

실제로 미·중 양국의 수뇌부는 학계와 업계 등에서 제기된 AI 속도조절론을 일축하고 있다. 두 나라 간 헤게모니 쟁탈전을 좌우할 결정타가 AI 분야여서다. 트럼프 행정부는 안보와 패권 유지 차원에서 접근해 AI 개발 속도를 늦추면 중국에 밀려 국가적 낭패로 이어질 거란 위기론을 내세운다. 중국은 한술 더 떠 음모론까지 곁들인다. AI 개발자들과 학자들의 속도 조절론의 배후에 서방 기관의 공포 마케팅과 경쟁 저해 책략이 숨어 있다며 AI 고도화 방침을 흔들림 없이 재확인했다.

[EPA 연합뉴스 자료사진. 재배포 DB 금지]

국제법이나 국제 조약이 열강들의 이해관계에 따라 언제든 휴지 조각이 될 수 있다는 걸 우리는 경험으로 잘 안다. 그렇듯 AI 속도조절론 역시 취지엔 모두 공감할지라도 강자들과 업계 핵심들이 동의하지 않으면 아무 의미가 없다. 영화 '터미네이터'에서 AI가 핵전쟁을 일으켜 인류를 파멸시켰던 허구가 현실이 될 가능성이 커지더라도 AI 발전을 제어하긴 쉽지 않은 상황이다. 미·중 패권 다툼과 AI 기업 간 개발 경쟁을 실제로 막을 주체가 있다면 모르겠지만, 안타깝게도 아직 현실에서 그런 힘을 가진 존재는 보이지 않는다.

leslie@yna.co.kr

Copyright 연합뉴스 All rights reserved. 무단 전재 및 재배포 금지.