[※ 편집자 주 = 문화체육관광부 집계 기준 2025년 K-콘텐츠 수출액은 149억 달러로 역대 최고를 기록했습니다. 이제 K-콘텐츠와 K-컬처는 언어와 국경을 넘어 지구촌 곳곳에서 실시간으로 향유되고 있습니다. 바야흐로 '한류 4.0'의 시대입니다. 연합뉴스 동포·다문화부 K컬처팀은 독자 여러분께 새로운 시선으로 한국 문화를 바라보는 데 도움이 되고자 전문가 칼럼 시리즈를 준비했습니다. 시리즈는 매주 게재합니다.]

[본인 제공]

인공지능(AI) 서비스를 이용하다가 신분증과 얼굴 촬영을 요구받는 일이 현실이 되고 있다. 그동안 생성형 AI 서비스는 대체로 이메일이나 기존 플랫폼 계정으로 가입하고, 서비스에 따라 휴대전화 문자 인증을 거치면 곧바로 이용할 수 있었다. 그러나 이제 일부 서비스에서는 여권이나 운전면허증 같은 정부 발행 신분증을 제출해야 할 수도 있다.

앤트로픽은 최근 자사 AI 서비스 클로드에 신원 확인 절차를 도입했다. 회사 설명에 따르면 특정 기능에 접근하거나 통상적인 플랫폼 무결성 점검, 그 밖의 안전·준법 조치가 이뤄질 때 인증창이 나타날 수 있다. 이용자는 정부 발행 사진 신분증을 제시하고 경우에 따라 휴대전화나 웹캠으로 실시간 셀피를 촬영해야 한다.

신원 확인은 외부 인증업체 '페르소나'(Persona)가 담당한다. 앤트로픽은 신분증과 셀피가 페르소나에 보관되며 자체 시스템에는 이미지를 복사해 저장하지 않는다고 설명한다. 인증 정보는 모델 학습에도 사용하지 않는다고 밝혔다. 다만 앤트로픽은 개인정보 처리 목적과 보유 기간을 정하는 주체이고, 이의 신청을 검토하는 경우처럼 필요할 때는 페르소나의 인증 기록에 접근할 수 있다.

회사가 내세우는 이유는 기술 오용 방지와 사용 정책 집행, 법적 의무 이행이다. 그 필요성을 모두 부정하기는 어렵다. 문제는 신원 확인 자체가 아니라 그것이 언제, 어떤 기준으로 요구되고 AI 이용 기록과 어디까지 연결되는가다.

◇ 국적을 확인할 수 없어 모델을 닫았다

이 변화가 단순 계정 보안 조치 이상으로 보이는 이유는 최근의 AI 수출통제 때문이다. 지난 6월 미국 정부는 앤트로픽의 고성능 모델인 'Fable 5'와 'Mythos 5'에 전례 없는 접근 제한 조처를 내렸다.

이용자 접근 제한의 핵심 기준은 국적이었다. 미국 밖에 있든 안에 있든, 외국인이라면 누구나 접근이 금지됐고, 미국에서 일하는 앤트로픽의 외국인 직원도 예외가 아니었다. 접속 위치는 IP 주소로 어느 정도 가려낼 수 있지만 국적은 그렇지 않다. 외국인만 골라 차단할 방법이 없었던 앤트로픽은 결국 미국인을 포함한 전 세계 모든 이용자에게 두 모델을 닫았다.

이후 Fable 5는 다시 전 세계에 제공되기 시작했지만, Mythos 5는 미국 정부의 승인을 받은 일부 미국 기관을 중심으로 제한적으로 복구됐다. 짧은 기간의 중단이었지만 이 사건이 남긴 의미는 작지 않다.

[연합뉴스 자료 사진]

고성능 AI 모델이 국가 전략 자산으로 취급되기 시작하면 접근 통제의 핵심은 결국 '누가 쓰는가'가 된다. 어느 지역에서 접속하는지만으로는 부족하다. 어느 나라 사람인지, 어느 기관에 소속됐는지, 허용된 이용자 범위에 들어가는지까지 확인해야 한다. 모델을 통제하려면 사용자를 식별해야 한다.

중국에서도 비슷한 논의가 진행되고 있다. 로이터는 중국 당국이 최근 알리바바, 바이트댄스, Z.ai 등 주요 AI 기업들과 최상위 AI 모델의 해외 접근을 제한하는 방안을 논의했다고 보도했다. 폐쇄형 모델뿐 아니라 공개도가 높은 모델도 거론됐고, 향후 출시될 모델에만 적용하는 방안도 검토된 것으로 알려졌다. 시행 여부와 구체적인 방식은 정해지지 않았지만, 고성능 AI를 국가 핵심 자산으로 바라보는 흐름이 미국에만 국한되지 않는다는 점은 분명하다.

현재 클로드의 신원 확인 절차가 이러한 수출통제를 위해 도입됐다는 증거는 없다. 그러나 일단 신원 확인 계층이 갖춰지면 그 용도는 서비스 정책이나 정부 요구에 따라 확대될 수 있다. 오늘은 불법 계정과 정책 위반 이용자를 가려내는 절차지만, 내일은 국적과 소속기관, 모델 접근 자격을 구분하는 관문이 될 수 있다.

◇ 위험 탐지와 실제 신원이 만날 때

AI 서비스의 신원 확인은 금융이나 통신 서비스의 본인 확인과는 성격이 다르다. AI와의 대화에는 단순한 로그인 기록만 남지 않는다. 사용자는 질문하고 초안을 만들고 코드를 검토하며 연구 아이디어와 업무 자료를 정리한다. 개인의 관심사와 직업적 고민, 기업의 미공개 프로젝트, 학술 연구와 정책 판단의 흔적까지 이용 과정에 남을 수 있다.

물론 AI 기업의 직원이 모든 대화를 실시간으로 직접 읽는다는 뜻은 아니다. 안전 정책과 사용 규칙을 집행하기 위해서는 자동화된 시스템을 통한 일정 수준의 위험 탐지가 필요하다. 그러나 공개된 설명만으로는 어떤 신호가 신원 확인을 촉발하는지 알 수 없다.

대화 내용과 첨부자료, 반복적인 이용 행태가 판단에 쓰이는지, 아니면 접속 위치와 기기·계정 정보가 중심인지 공개되지 않았다. 판단이 자동으로 이뤄지는지, 사람이 개입하는지, 신원 확인 이후 과거 이용 기록이 어떻게 취급되는지도 불분명하다.

여기서 신원 확인과 연령 확인의 차이를 살펴볼 필요가 있다. 앤트로픽은 미성년자로 의심되는 이용자의 연령을 확인할 때는 별도의 업체인 '요티'(Yoti)를 이용한다. 이용자는 얼굴 나이 추정과 신분증, 디지털 ID 가운데 하나를 선택할 수 있고, 회사 설명에 따르면 앤트로픽은 '18세 이상' 여부에 대한 통과 또는 실패 결과만 받는다. 셀피와 신분증 이미지는 확인이 끝나면 요티가 삭제한다.

연령 확인에는 전체 신원을 넘기지 않고 필요한 속성만 전달하는 방식을 쓰면서 일반 신원 확인에는 신분증과 셀피를 요구하는 것이다. 목적이 다르므로 절차가 같을 필요는 없다. 그러나 바로 그렇기 때문에 어떤 상황에서 더 강한 신원 확인이 필요한지, 수집된 정보가 계정 및 대화 기록과 어떻게 분리되는지를 더 구체적으로 설명해야 한다.

대화를 분석하는 것과 그 대화를 실제 신원에 귀속시키는 것은 다른 단계의 문제다. 위험 탐지가 신원 확인으로 이어지는 순간 안전장치는 콘텐츠 통제를 넘어 사용자 접근권을 결정하는 체계가 된다.

◇ 필요한 것은 인증이 아니라 통제의 투명성

그렇다고 AI 서비스의 신원 확인을 모두 금지하자는 뜻은 아니다. 자동화된 악용 계정과 조직적 우회 접속을 차단하고, 고위험 기능과 전략적 모델의 접근을 제한하려면 일정한 확인 절차가 필요할 수 있다. 문제는 그 절차가 목적에 비례하고 외부에서 검증할 수 있을 만큼 투명하게 설계됐는가다.

AI 기업이 신원 확인을 요구한다면 어떤 기능과 상황에서 필요한지, 어떤 데이터가 수집되고 얼마나 보관되는지, 인증업체와 AI 기업이 각각 무엇을 보유하는지 설명해야 한다. 인증 정보가 모델 학습이나 광고에 사용되지 않는다는 약속뿐 아니라 대화 기록과 기술적으로 분리되는지, 법적 요청이 들어오면 어떤 범위에서 제공될 수 있는지도 밝혀야 한다. 잘못 분류된 이용자가 이의를 제기하고 계정을 회복할 수 있는 절차도 명확해야 한다.

최소 수집 원칙도 중요하다. 필요한 정보가 '성인인가', '허용된 기관의 구성원인가', '제한 대상이 아닌가'라면 반드시 이름과 생년월일, 얼굴 이미지 전체를 보유할 필요는 없다. 다만 국적 통제는 복수국적과 영주권, 거주지와 소속기관, 이용 목적까지 얽힐 수 있어 연령 확인보다 훨씬 복잡하다.

접근 통제가 정교해질수록 기업이 확인하려는 신원의 범위도 넓어질 가능성이 있다. 그래서 원본 신분증과 생체정보를 수집하는 방식이 손쉬운 기본값이 되지 않도록 해야 한다.

한국의 기업과 대학, 공공기관도 이제 AI 서비스를 도입할 때 모델 성능과 가격만 비교해서는 안 된다. 어떤 상황에서 구성원의 신원을 요구하는지, 이용 기록과 인증 정보가 분리되는지, 해외 본사와 제3자 인증업체가 각각 어떤 데이터를 갖는지 확인해야 한다. 기관 계정 이용자의 접근이 어느 국가의 정책과 법률에 따라 제한될 수 있는지도 계약 단계에서 살펴봐야 한다.

"우리 데이터가 모델 학습에 쓰이지 않는다"는 문구만으로는 충분하지 않다.

AI 시대의 새로운 관문은 모델 그 자체가 아닐 수 있다. 모델 앞에 놓인 신원 확인 계층이 누가 AI를 쓸 수 있는지, 어떤 기능까지 접근할 수 있는지를 결정하는 더 중요한 관문이 될 수 있다.

AI가 묻기 시작했다. 당신은 누구인가.

그 질문이 불가피한 순간도 있을 것이다. 그러나 언제, 왜, 누구의 판단으로, 어떤 기록과 함께 질문이 던져지는지 설명되지 않는다면 인증창 하나도 가볍게 넘길 수 없다. 기술의 안전만큼이나 접근을 통제하는 절차의 안전도 함께 물어야 한다.

임기범 인공지능 전문가

▲ 서울과학종합대학원 대학교(aSSIST) 객원교수 ▲ 현 AI경영학회 상임이사 겸 학술분과 위원장 ▲ ㈜컴팩 CIO ▲ 신한 DS 디지털 전략연구소장 역임

Copyright 연합뉴스 All rights reserved. 무단 전재 및 재배포 금지.