오픈AI·구글·앤트로픽 '에이전트 전면전'…업무 자동화 주도

환각·권한 탈취 등 보안 리스크가 최대 걸림돌

[연합뉴스TV 제공. 재판매 및 DB 금지]

(서울=연합뉴스) 심재훈 기자 = 올해 상반기에 글로벌 인공지능(AI) 생태계를 관통한 핵심 트렌드는 단연 'AI 에이전트'(AI Agent) 시대의 개막이었다.

단순한 질의응답을 수행하는 '챗봇'(Chatbot)의 시대가 저물고 사용자의 지시를 받아 스스로 계획을 수립하며 사내외 시스템에 접속해 업무를 대행하는 에이전트 기술이 시장의 중심으로 떠올랐기 때문이다.

글로벌 테크 업계는 올해 상반기를 기점으로 AI 에이전트가 실험실을 벗어나 실제 산업 현장에 급속히 투입될 것으로 보고 기술 주도권 확보와 생태계 선점에 사활을 걸고 있다.

◇ '아는 AI'에서 '일하는 AI'로…중견기업도 도입

맥킨지의 2024년 글로벌 AI 설문조사에 따르면 전 세계 기업의 65%가 이미 업무에 생성형 AI를 정기적으로 활용하고 있다. 이는 직전 조사보다 두 배 가까이 급증한 수치다.

AI 에이전트의 현장 배치 속도도 빨라지고 있다. 미국 AI 스타트업 랭체인의 보고서에서 응답 기업의 51%가 "현재 에이전트를 실제 서비스나 업무 환경에서 사용 중"이라고 답했다. 특히 직원 수 100∼2천명 규모의 중견 기업에서는 에이전트 도입률이 63%에 달했다.

현재 AI 에이전트는 이메일 및 문서 작성, 데이터 정리, 고객 응대 등 반복적이고 규칙성이 높은 지식 노동에 우선 투입되는 추세다.

[EPA 연합뉴스 자료사진. 재판매 및 DB 금지]

AI 에이전트의 핵심은 '자율성'이다. AI 에이전트는 대형언어모델(LLM)을 두뇌로 삼고 각종 애플리케이션 프로그래밍 인터페이스(API)를 손발로 활용해 고객관계관리(CRM)나 전사자원관리(ERP) 등 외부 시스템에 직접 개입한다.

이는 글로벌 AI 시장의 척도가 '지식의 양'에서 '정확한 업무 대행 능력'으로 이동하고 있음을 보여주는 대목이다.

AI 에이전트 시장이 커지면서 빅테크 간 기술 경쟁도 치열해지고 있다.

오픈AI는 자율 실행 에이전트 '오퍼레이터'(Operator)를 내세워 단순 챗봇 서비스를 넘어 데이터 분석, 영업, 코딩 등 직군별 맞춤형 기능을 확장하며 생태계 장악을 시도하고 있다.

구글은 자사 AI '제미나이'(Gemini)를 워크스페이스 및 안드로이드 생태계에 접목했다. 지메일과 캘린더를 연동해 회의 일정을 자율적으로 조율하고 스마트폰 화면을 인식해 앱 간 작업을 통합 관리하는 데 집중하고 있다.

앤트로픽은 AI가 사람처럼 화면을 인식하고 마우스와 키보드를 직접 조작하는 '컴퓨터 사용 API'를 출시해 차별화에 나섰다. 복잡한 작업 과정을 자동화하며 기업간거래(B2B) 시장과 개발자 생태계를 정조준하고 있다.

◇ 고질적 '환각' 현상과 보안 리스크…플랫폼 책임론까지

하지만 기업들이 AI 에이전트를 실제 업무에 대대적으로 도입하기엔 현실적인 어려움이 적지 않다.

바로 AI의 고질병인 '환각' 현상과 치명적인 보안 위협 때문이다.

위키교육재단의 지난해 조사에 따르면 AI로 작성된 위키피디아 문서의 67% 이상이 출처 검증에 실패했다. 현장 실무진은 AI가 생성한 결과물의 사실관계를 검증하는 데 오히려 더 많은 시간이 든다고 토로했을 정도다.

특히 AI 에이전트가 사내 기밀문서, 고객 데이터베이스, 결제 시스템 등에 직접 접근할 수 있게 되면서 사이버 보안 리스크는 전례 없는 수준으로 커졌다.

보안업체 트렌드마이크로와 IBM의 분석에 따르면 AI가 잘못된 지시를 따르도록 조작하는 '프롬프트 인젝션'과 '과도한 권한 부여'가 최우선 보안 위험으로 꼽힌다.

특히 AI 에이전트가 공격에 뚫릴 경우 단순 정보 유출을 넘어 기업 시스템 전체가 마비되거나 금융 사고로 직결될 수 있다는 점에서 기업으로선 조심할 수밖에 없다.

[AP 연합뉴스 자료사진. 재판매 및 DB 금지]

AI 에이전트로 인한 사고 발생 시 책임 소재가 애매하다는 점도 문제다.

AI 에이전트의 자율적인 오작동에 대한 책임을 플랫폼사가 질 것인지, 아니면 솔루션 도입 기업이나 최종 사용자 중 누가 질 것인가를 두고 글로벌 규제 당국 간 공방이 치열하다. 유럽연합(EU)과 미국 등에서는 '공동 책임' 모델을 전제로 한 위험 평가 및 감독 체계 구축이 필요하다는 주장이 힘을 얻고 있다.

이런 가운데 AI 에이전트 도입은 노동 시장의 지형도 바꾸고 있다.

단순 데이터 정리 업무는 AI 에이전트로 대체되는 반면 AI의 활동을 설계하고 시스템을 연결하며 결과를 검증하는 'AI 운영 및 감시자' 수요는 오히려 늘어나는 추세다. 프롬프트 설계, AI 보안, 데이터 거버넌스 전담 인력 채용이 늘어나는 상황이 이를 보여준다.

AI 업체의 한 임원은 "AI 에이전트 경쟁이 이제는 실제 업무를 얼마나 안전하고 신뢰성 있게 맡길 수 있느냐로 옮겨가고 있다"며 "기업 도입이 본격화될수록 성능뿐 아니라 권한 관리 및 검증 체계가 중요한 경쟁력이 될 것"이라고 말했다.

결국 AI 에이전트가 기업 업무의 핵심 인프라로 자리 잡을 수 있을지는 철저한 권한 통제와 신뢰도 검증 체계에 달린 셈이다.

AI 에이전트가 스스로 처리할 수 있는 업무 범위가 넓어지는 만큼 이용자 확인 강화와 권한 관리, 사람의 승인 절차를 통해 AI의 오작동이나 권한 남용을 막는 보안 체계 마련이 갈수록 중요해지고 있다.

president21@yna.co.kr

Copyright 연합뉴스 All rights reserved. 무단 전재 및 재배포 금지.