[※ 편집자 주 = 한국국제교류재단(KF)의 2024년 발표에 따르면 세계 한류 팬은 약 2억2천500만명에 육박한다고 합니다. 또한 시간과 공간의 제약을 초월해 지구 반대편과 동시에 소통하는 '디지털 실크로드' 시대도 열리고 있습니다. 바야흐로 '한류 4.0'의 시대입니다. 연합뉴스 동포·다문화부 K컬처팀은 독자 여러분께 새로운 시선으로 한국 문화를 바라보는 데 도움이 되고자 전문가 칼럼 시리즈를 준비했고, 시리즈는 매주 게재합니다.]

[본인 제공]

서울대학교가 6월부터 교수와 학생, 직원 등 전 구성원에게 챗GPT 에듀를 순차적으로 제공하기 시작했다. 삼성도 이재용 회장의 지시에 따라 국내 67개 전 관계사가 그동안 보안 우려로 막아뒀던 챗GPT, 제미나이, 클로드 등 외부 생성형 AI를 일제히 업무에 풀었다. 삼성전자 디바이스경험(DX) 부문은 한 발 더 나가 임직원이 사내에서 세 가지 AI를 자유롭게 선택해 쓸 수 있도록 했다. 대학과 기업이 AI를 일부 구성원의 선택적 도구가 아니라 교육·연구와 업무 전반의 기반으로 받아들이기 시작한 것이다.

이런 변화는 자연스럽다. AI를 얼마나 잘 활용하느냐가 개인과 조직의 경쟁력을 좌우하는 시대이기 때문이다. 비용이나 소속에 따라 최신 AI를 이용할 기회가 달라지던 격차를 줄이고, 구성원 전체의 생산성과 AI 활용 역량을 끌어올린다는 점에서도 의미가 크다. 그러나 쟁점은 AI를 도입할 것인가가 아니다. 활용을 넓히는 속도에 맞춰 데이터를 지키는 체계도 함께 갖추고 있는가다.

◇ 단순 챗봇이 아닌 시대

지금은 챗봇을 그저 하나 툴로 보는 시대가 아니다. AI는 메일과 문서, 클라우드 저장소, 데이터베이스와 업무 시스템을 직접 연결해 정보를 찾고 여러 단계의 일을 처리하는 에이전트로 진화하고 있다. 사용자가 질문 한 줄을 입력하는 데서 그치지 않고, 조직의 자료와 도구, 실행 권한까지 AI에 함께 내주는 시대가 됐다. 더 많은 맥락과 권한은 더 높은 생산성을 만들지만, 잘못된 입력이나 권한 설정 하나가 미치는 파장도 그만큼 커진다.

기업·교육기관용 AI를 소개할 때 가장 자주 등장하는 문구는 "입력·출력 등 고객 데이터를 모델 학습에 사용하지 않는다"는 약속이다. 오픈AI와 앤트로픽, 구글 모두 기업용 서비스에 대해 같은 원칙을 내세운다. 일반 소비자용 서비스보다 안전한 환경을 제공한다는 점은 분명하다.

그러나 '학습하지 않는다'는 말이 '외부에 절대 노출되지 않는다'는 뜻은 아니다. 모델 훈련에 쓰지 않는 것과 데이터가 외부 사업자의 시스템에서 처리되지 않는 것은 전혀 다른 문제다. 학습 여부와 저장 기간, 로그와 백업, 사업자의 기술적 접근 가능성, 법적 요구에 따른 제출 의무까지 모두 별개의 사안이다. 제품과 설정에 따라 보존 방식도 달라진다. 엔터프라이즈라는 이름은 보안 기능을 강화한다는 뜻일 뿐, 모든 위험을 없애주는 면책 문구가 아니다.

위험은 기술적 보안의 영역에만 머물지 않는다. 데이터가 어느 나라 기업의 시스템에서 처리되고 어떤 법적 관할 아래 놓이는지에 따른 법적·지정학적 리스크도 함께 들여다봐야 한다.

◇ 국내에 아직 낯선 미국의 클라우드법

여기서 국내 이용자에게 아직 낯선 미국의 클라우드법(CLOUD Act)을 살펴볼 필요가 있다. 2018년 제정된 이 법은 미국 관할의 통신·클라우드 서비스 사업자가 보유하거나 관리·통제하는 전자정보에 대해, 데이터가 해외에 저장돼 있더라도 미국법상 적법한 절차에 따라 제출하도록 요구할 수 있는 근거를 명확히 했다.

물론 미국 정부가 원한다고 세계의 모든 데이터를 마음대로 가져갈 수 있다는 뜻은 아니다. 요구하는 정보의 종류에 따라 영장과 법원 명령, 소환장 등 적법한 절차를 거쳐야 하고, 사업자가 요청의 적법성을 다투는 절차도 마련돼 있다. 그러나 서버가 한국이나 다른 지역에 있다는 이유만으로 미국 법체계와의 연결이 사라지는 것도 아니다. 데이터가 물리적으로 어디 있는지와, 그 데이터를 통제하는 사업자가 어떤 법적 관할에 속하는지는 서로 다른 문제이기 때문이다.

문제는 AI 서비스의 국적만 따진다고 끝나지 않는다. 모델을 제공하는 회사와 실제 연산·저장 인프라를 운영하는 클라우드 사업자가 다를 수 있고, 플러그인과 외부 도구, 재위탁 사업자가 데이터 처리 과정에 추가될 수도 있다. 따라서 계약서 첫 장에 적힌 회사 이름만 볼 게 아니라 데이터가 어떤 경로를 지나고 어느 주체가 접근·통제할 수 있는지까지 확인해야 한다. 이른바 데이터 주권은 서버 주소 하나로 확보되지 않는다.

클라우드법을 알아야 하는 이유는 음모론을 만들기 위해서가 아니다. 지금 쓰는 주요 AI와 클라우드 서비스의 상당수가 미국 기업을 통해 제공되는 상황에서, 국내 규정과 계약만 살펴봐서는 데이터의 위험을 온전히 평가할 수 없기 때문이다. 정부의 제출 요구가 실제로 발생할 가능성을 따지는 것보다 중요한 일은, 그런 요구가 들어왔을 때 사업자가 어떤 데이터를 보유하고 있으며 기술적으로 무엇을 꺼낼 수 있는지를 미리 확인해 두는 것이다.

◇ 사람의 실수보다 시스템의 설계

특히 에이전트는 사용자가 직접 입력한 문장만 다루지 않는다. 권한이 부여되면 연결된 메일과 문서, 소스코드 저장소와 협업 도구에서 필요한 정보를 스스로 불러올 수 있다. 기존 챗봇 시대에는 한 번의 부주의한 입력이 문제였다면, 에이전트 시대에는 과도한 접근 권한과 잘못된 연결 설정이 훨씬 큰 위험이 된다. 특정 직원 한 사람의 주의력만으로는 막기 어려운 구조다.

실제로 삼성그룹 안에서도 이런 흐름을 읽을 수 있는 움직임이 나타나고 있다. 외부 AI를 전면 도입한 직후, 삼성SDS와 삼성바이오로직스를 비롯한 계열사 15곳이 동시에 AI 보안·거버넌스 인력을 채용하기 시작했다. AI 활용 기준과 통제 체계를 마련하고, 생성형 AI와 대규모언어모델의 보안성을 검토할 인력이 필요해졌기 때문이다. 활용을 먼저 열고 보안을 뒤따라 갖추는 방식이 아니라, 둘을 같은 속도로 끌고 가야 한다는 인식이 이제야 자리 잡고 있는 셈이다.

그래서 구성원에게 "개인정보와 기밀자료를 입력하지 말라"고 교육하는 것만으로는 부족하다. 사람은 실수하고, 에이전트는 부여받은 권한 안에서 예상보다 넓게 움직일 수 있다. 보안은 실수하지 않는 사용자를 기대하는 일이 아니라, 실수해도 피해가 퍼지지 않도록 설계하는 일이어야 한다.

조직은 먼저 데이터 등급과 AI 사용 범위를 정해야 한다. 승인된 사내 게이트웨이를 통해서만 외부 AI에 접속하게 하고, 개인정보와 소스코드, 설계자료 같은 민감정보가 감지되면 전송을 막는 데이터유출방지 체계를 적용해야 한다. 메일과 파일, 데이터베이스 연결 권한은 최소한으로 부여하고, 대화와 로그의 보존 기간, 백업, 재위탁 사업자와 데이터 처리 지역도 계약 단계에서 확인해야 한다. 국가핵심기술이나 미공개 연구자료처럼 유출되면 치명적인 정보는 외부 상용 AI에 원문을 보내지 않는다는 원칙도 필요하다.

AI 활용을 늦추자는 말이 아니다. 오히려 제대로 활용하기 위해 안전장치를 먼저 갖추자는 것이다. 사용자 교육은 필요하지만, 그것이 최종 방어선이어야지 보안체계 전체가 돼서는 안 된다. 사고가 일어난 뒤 개인의 부주의만 탓한다면 그것은 관리가 아니라 책임 전가다.

대학과 기업은 사용 계정 수나 접속률만으로 AI 전환의 성과를 평가해서는 안 된다. 어떤 데이터가 어느 사업자의 시스템과 법적 관할로 이동하는지, 민감정보의 전송을 얼마나 사전에 차단하는지, 문제가 생기면 누가 어떤 절차로 대응하는지도 함께 물어야 한다.

AI 시대에 가장 중요한 보안 원칙은 업체를 무조건 불신하는 것도, 엔터프라이즈라는 이름을 무조건 신뢰하는 것도 아니다. 업체가 모든 약속을 지키더라도 사고나 법적 의무로 데이터가 외부에 제공될 수 있는 상황까지 대비하는 것이다. 활용을 독려하기 전에 기술적·제도적 통제 장치를 갖추는 것, 그것이 AI를 책임 있게 도입하는 조직의 출발점이다.

임기범 인공지능 전문가

▲ 서울과학종합대학원 대학교(aSSIST) 객원교수 ▲ 현 AI경영학회 상임이사 겸 학술분과 위원장 ▲ ㈜컴팩 CIO ▲ 전 신한 DS 디지털 전략연구소장

Copyright 연합뉴스 All rights reserved. 무단 전재 및 재배포 금지.