[AI돋보기] AI도 '인간 인증' 통과…이제 사람은 어떻게 증명할까

다음 내용이 궁금하다면?

불편하시다면 뒤로 가기를 눌러주세요

캡차 소재 48단계 퍼즐 완주…비전 AI, 시각 문제도 돌파

'로봇 차단'서 'AI 권한 검증'으로…인터넷 보안 공식 바뀐다

(서울=연합뉴스) 심재훈 기자 = "로봇이 아닙니다."

인터넷을 쓰다 이 문구 옆 네모 칸에 체크해본 기억, 다들 한 번쯤은 있을 것이다.

신호등이나 자전거가 든 사진을 골라내라거나 비뚤어진 문자·숫자를 입력하라는 요구를 받기도 한다.

상대가 프로그램이 아니라 사람인지 확인하는 '캡차'(CAPTCHA)다.

그런데 인공지능(AI)이 화면을 보고 마우스와 키보드를 직접 움직이며 사람 몫으로 만들어진 퍼즐까지 풀어내면서 인터넷에서 사람과 기계를 갈라온 오랜 경계선이 흔들리고 있다.

◇ 인간 가려내던 '캡차'…AI가 시각 퍼즐까지 푼다

정보기술(IT) 업계에 따르면 오픈AI 개발자 샤리프 샤밈은 최근 컴퓨터 제어 기능을 갖춘 AI 모델 'GPT-6 아스트라'로 온라인 퍼즐 게임 '로봇이 아닙니다'의 48개 단계를 모두 풀었다고 공개했다.

개발자 닐 아가왈이 만든 이 게임은 캡차를 소재 삼은 브라우저 퍼즐이다. 왜곡된 문자·이미지 판별부터 원 그리기, 리듬 맞추기, 자동차 주차까지 서로 다른 과제가 이어지도록 짜여 있다. 전 과정을 마치면 '인간 증명서'도 나온다.

다만 이 게임 자체가 실제 웹사이트에서 봇을 걸러내는 상용 캡차 시스템은 아니라는 점에서 AI가 실제 캡차 보안을 통째로 무력화했다고 보기는 어렵다.

그렇다고 해도 AI가 화면 내용을 이해하고 서로 다른 유형의 문제를 판단해가며 마우스와 키보드까지 조작해 48개 과제를 처리했다는 점은 AI 에이전트의 컴퓨터 활용 능력이 얼마나 빠르게 진화하고 있는지를 단적으로 보여준다.

캡차는 '컴퓨터와 인간을 구별하기 위한 완전히 자동화된 공개 튜링 테스트'(Completely Automated Public Turing test to tell Computers and Humans Apart)의 앞 글자를 딴 말이다.

초창기에는 컴퓨터가 읽어내기 어려운 일그러진 문자를 판독시키는 방식이 많이 쓰였다. 하지만 광학문자인식(OCR) 기술이 좋아지자 신호등이나 소화전이 담긴 이미지를 골라내거나 물체를 정해진 위치로 옮기게 하는 쪽으로 진화했다.

사람에게는 어렵지 않지만 기계에는 까다로운 시각·공간 인지 문제를 내걸어 자동화 봇의 접근을 막는 원리였다.

문제는 멀티모달 AI와 비전언어모델(VLM)이 발전하면서 이 전제 자체가 흔들리고 있다는 점이다.

정보보안 학회 'USENIX 시큐리티 2025'의 연구를 보면 비전언어모델 기반으로 시각 캡차를 푸는 AI 시스템을 만들어 26종, 2천600개 문제에 시험해보니 전체의 60.7%를 풀어냈다.

연구진은 범용 AI 모델이 등장하면서 '시각 캡차는 봇에는 어렵고 인간에게는 쉽다'는 그동안의 가정 자체가 흔들리고 있다고 분석했다.

공격 비용이 낮아지고 있다는 점도 부담이다.

과거에는 자동 프로그램으로 풀기 힘든 캡차를 대신 처리해주는 일에 사람이 동원됐다. 하지만 AI가 이미지 인식과 컴퓨터 조작을 스스로 해낼 수 있게 되면서 사람 손을 거치지 않고도 이런 작업이 자동화될 여지가 커지고 있다.

콘서트 표나 한정판 상품을 대량으로 선점하거나 가짜 계정을 만들고 데이터를 무단으로 긁어가는 데 악용된다면 기존 캡차만으로 대규모 자동화 공격을 막아내기는 더 힘들어질 수 있다.

◇ 퍼즐 대신 행동 분석…'보이지 않는 캡차'로 진화

보안업계도 이미 대응 방식을 바꿔가고 있다.

이용자에게 매번 퍼즐을 풀게 하는 대신 백그라운드에서 접속자의 행동과 기기 신호를 종합해 위험도를 가늠하는 방식이다.

마우스가 움직이는 방식, 스크롤 패턴, 키보드 입력 특성, 접속 기기와 네트워크 정보까지 분석해 정상 이용자와 자동화 프로그램을 구분해낸다.

문제는 AI 에이전트가 사람처럼 웹브라우저를 직접 조작하기 시작했다는 데 있다.

과거 봇이 일정한 좌표를 빠르게 클릭하거나 정형화된 패턴으로 움직였다면 최근 AI 에이전트는 화면을 보면서 그때그때 상황에 맞춰 다음 행동을 결정한다.

인간과 자동화 프로그램을 가르는 기준이 단순한 '퍼즐 해결 능력'에서 행동 전체를 뜯어보는 쪽으로 옮겨가는 이유다.

앞으로는 정상적인 AI와 악성 봇을 구분하는 문제가 더 중요해질 전망이다. AI 에이전트가 이용자를 대신해 인터넷을 검색하고 물건을 사거나 식당과 항공권을 예약하는 시대에는 AI라는 이유만으로 접속을 막을 수는 없기 때문이다.

이에 따라 보안의 초점도 '사람이냐 기계냐'에서 '누가 어떤 목적으로 무엇을 하려 하느냐'를 가려내는 쪽으로 이동하고 있다.

◇ '로봇 차단'서 '권한 검증'으로…인터넷 신뢰 구조 바뀌나

이런 흐름은 이미 실제 보안 기술에 반영되고 있다.

구글 클라우드는 올해 AI 에이전트 시대에 대응해 위험 수준에 따라 추가 인증을 요구하는 기술을 확대하고 있다.

특히 위험도가 높다고 판단되면 스마트폰으로 QR코드를 인증하게 하는 'AI 저항형 QR 코드 챌린지'도 새로 선보였다.

평소에는 AI가 이용자 대신 일을 처리하도록 하지만 결제나 계정 변경처럼 중요한 순간에는 실제 사람이 끼어들도록 하는 방식이다. 대규모 자동 공격을 하려면 결국 사람이 반복적으로 개입해야 하니 공격이 어려울 수밖에 없다.

온라인에서 '인간임을 증명하는 방법' 자체를 바꾸려는 시도도 나오고 있다.

샘 올트먼이 공동 설립한 툴스포휴머니티가 만든 월드(World)의 'World ID'가 대표적이다. 전용 기기 '오브'(Orb)가 눈과 얼굴을 촬영해 실제 존재하는 고유한 사람인지 확인한 뒤 이를 온라인에서 증명할 수 있게 설계됐다.

AI 에이전트가 확산하면서 온라인 인증의 '위임 권한'도 주목받고 있다.

이용자가 AI에 "이번 주말 부산행 기차표를 찾아줘"라고 지시했다면 검색까지만 허용된 AI인지 실제 예약까지 가능한지 결제까지 맡겨진 것인지를 각각 가려내는 방식이다.

결국 AI 시대의 인터넷 보안은 로봇을 몰아내는 게 아니라 믿을 만한 AI에 필요한 만큼의 권한만 내주는 방향으로 옮겨갈 가능성이 크다.

국내 보안업계의 한 전문가는 "과거의 보안이 창문을 모두 잠그고 사람만 들이는 방식이었다면 이제는 집주인 심부름을 온 AI 대리인까지 가려내 정해진 방까지만 들여보내야 하는 시대"라며 "AI 에이전트의 권한과 행위 이력을 확인하고 통제하는 보안 체계가 중요해질 것"이라고 말했다.

president21@yna.co.kr

[부동산캘린더] 내주 천안아이파크시티 등 전국 1만1천

인기상품 확인하고 계속 읽어보세요!

원치 않을 경우 뒤로가기를 눌러주세요.