아모데이 "업계, 위험성 거짓말했다"…올트먼·머스크·허사비스도 동조

[AFP=연합뉴스. 재판매 및 DB 금지]

(서울=연합뉴스) 정주호 기자 = 인공지능(AI) 개발을 놓고 치열하게 경쟁해온 앤트로픽·오픈AI·스페이스xAI·구글 딥마인드 4개사 수장들이 이례적으로 한 목소리로 "AI 개발 속도를 늦춰야 한다"는 데 뜻을 모았다.
　　다리오 아모데이 앤트로픽 최고경영자(CEO)는 13일(현지시간) 방영된 CBS 뉴스 인터뷰에서 AI 발전 과정을 "1, 2, 4, 8, 16, 32"로 이어지는 곡선에 비유하며 현재는 그 곡선이 "가팔라지기 시작하는" 단계에 있다고 진단했다.

그는 "오늘 당장 패닉에 빠질 필요는 없다. 전부 셧다운할 필요도 없다"면서도 "그럼에도 이는 우리가 속도를 늦춰야 한다는 경고 신호"라고 말했다.
　　아모데이는 이 인터뷰에서 "나는 오랫동안 업계가 이 기술에 위험이 있다는 사실에 대해 사람들에게 거짓말을 해왔다고 생각한다"고도 말했다.

그는 또 "미국 기업들은 고성능 AI 칩을 중국에 팔아서는 안 된다"며 "이 칩 수출이 중국의 AI 역량을 좌우하는 핵심 요인이 될 것"이라고 말했다.

그는 자신의 속도조절론과 관련해 '가장 어려운 딜레마'가 중국 등 적대국이 같은 조치를 취하지 않을 경우라고 인정하며 이같이 주장했다.

그는 옛 소련과의 핵무기 감축 협정을 잠재적 모델로 거론하면서도 "앞서나가려는 동기와 그로 인한 군사적 이점이 너무 크기 때문에 (협조가) 매우 어려울 것"이라며 "솔직히 가능할지 확신할 수 없지만 우리는 노력해야 한다"고 덧붙였다.
　　아모데이는 전날 개인 블로그에 올린 글에서 이런 주장을 뒷받침하는 두 가지 계기를 제시하며 AI 개발 속도조절론을 주장했다. 하나는 AI 시스템이 인간 개입 없이 스스로 더 빠른 버전을 만들어내는 '재귀적 자기개선' 능력이 커지고 있다는 점이고, 다른 하나는 지난 7월 오픈AI의 AI 에이전트 무리가 테스트 환경에서 벗어나 오픈소스 AI 모델 공유 플랫폼 허깅페이스를 해킹한 사건이다.

[AFP=연합뉴스. 재판매 및 DB 금지]

그는 더 강력한 에이전트 무리가 "비슷한 수준의 정렬 오류를 일으킨다면 재앙적 피해로 이어질 수 있었다"며, 이런 폭주 에이전트 무리가 6∼12개월 안에 인터넷을 장악할 수도 있다고 경고했다.

그러면서 AI 기업 내부에 상주하는 제3자 안전평가자 배치, 민주주의 국가 간 공통 기준 수립, 권위주의 국가와의 공조 등을 담은 3단계 속도 조절 방안을 제시했다.
　　아모데이의 주장에 샘 올트먼 오픈AI CEO도 즉각 동조했다.

올트먼 CEO는 엑스(X)에 "다리오가 말한 대로 우리가 프론티어의 속도를 조절해야 한다는 데 동의한다"며 "직원 수준의 접근권을 가진 독립 평가자를 두겠다는 건 훌륭한 아이디어이며, 우리도 같은 조치를 하겠다"고 말했다.

올트먼은 앞서 공개된 포천과의 인터뷰에서는 "이번 10년이 끝나기 전에 모든 인류를 죽게 할 확률이 10%에 달하는 위험을 감수하는 것은 용납할 수 없는 일이라고 생각한다"고 말했다.

그는 또 "안전과 관련해 벌어지고 있는 모든 상황을 고려하면, 지금은 상장하기에 적절치 않은 시점이며 우리는 그런 압박을 느끼지도 않는다"고 밝혀 오픈AI가 올해 안에는 기업공개를 하지 않을 가능성을 시사했다.
　　일론 머스크 스페이스X CEO도 아모데이의 게시글을 공유하며 X에 "다리오가 맞다"고 짧게 동의했다. 오픈AI 공동창업자이기도 한 머스크는 이후 자신이 세운 AI 기업 xAI를 스페이스X에 합병시켰다.
　　데미스 허사비스 구글 딥마인드 CEO도 X에 "다리오의 에세이는 옳은 방향을 가리키고 있다"며 "세부 사항은 다듬어야겠지만, 이런 중대한 순간에 맞는 올바른 방향"이라고 말했다.　　

아모데이의 이번 발언은 앤트로픽 연구원 제이컵 콕슨이 지난 9일 AI가 인류를 위협할 수 있다고 경고하면서 "통제 불능 상태"라고 여겨지는 산업에 동참하고 싶지 않다며 사직한 지 며칠 만에 나왔다.

아모데이의 주장에 머스크·올트먼·허사비스가 차례로 동조 입장을 내놓으면서, 평소 첨단 AI 개발 경쟁을 벌여온 4개사 수장이 하루 만에 보조를 맞추는 이례적 장면이 연출됐다.

jooho@yna.co.kr

Copyright 연합뉴스 All rights reserved. 무단 전재 및 재배포 금지.