생성형 AI 표시·고영향 AI 기준 놓고 현장 혼선

"1년 계도기간…유연한 가이드라인 운용이 관건"

[과학기술정보통신부 제공. 재판매 및 DB 금지] photo@yna.co.kr

(서울=연합뉴스) 한상용 기자 = AI 기본법 개정안 시행이 임박하면서 국내 인공지능(AI) 산업이 첫 제도 운용 시험대에 올랐다.

생성형 AI 표시 의무와 고영향 AI 기준이 본격 적용되는 가운데 산업계는 공공조달 확대와 창업 지원 등 육성책에는 기대를 걸면서도 규정이 과도하거나 모호하게 적용될 경우 서비스 개발과 시장 진입이 위축될 수 있다고 우려한다.

정부는 최소 1년 이상의 계도기간을 운영하며 세부 가이드라인을 마련할 계획이어서 AI 산업 경쟁력과 신뢰 확보를 함께 달성할 수 있는 제도 운용이 핵심 과제로 떠오르고 있다.

◇ 생성형 AI 표시·고영향 AI 기준…현장 "어디까지가 의무인가"

19일 국내 AI와 정보통신기술(ICT) 업계에 따르면 국내 최대 쟁점 중 하나는 생성형 AI를 어느 정도 활용했을 때 표시 의무가 발생하는지다.

콘텐츠 전체를 AI로 만든 경우뿐 아니라 문장 교정이나 이미지 보정 등 일부 작업에 AI를 활용한 경우까지 같은 기준을 적용할지 명확하지 않다는 지적이다.

사람이 AI 결과물을 편집하거나 검수한 경우 표시 의무를 어떻게 적용할지도 현장에서 판단하기 어려운 부분으로 꼽힌다.

AI 업계에서는 콘텐츠 제작 과정에서 AI를 99% 사용한 경우와 1% 사용한 경우를 동일하게 취급할 수 있느냐는 의견도 나온다.

국내 AI 스타트업 한 관계자는 "AI 경쟁이 갈수록 치열해지는 상황에서 스타트업 입장에서는 하루하루가 서바이벌"이라며 "고영향 AI나 워터마크 표시 기준 같은 핵심 규정들이 여전히 모호한 상태에서 개정법 시행 초반에 위법 사항이라는 지적을 받지 않을까 걱정된다"고 말했다.

고영향 AI의 판단 기준 역시 향후 주요 쟁점이 될 전망이다.

의료와 채용, 금융, 교육 등 국민의 권리와 안전에 영향을 미치는 영역에서 AI 활용이 늘어나면 어떤 서비스가 고영향 AI에 해당하는지를 놓고 기업과 정부 간 해석 차이가 발생할 수 있기 때문이다.

[연합뉴스TV 제공]

고영향 AI 해당 여부가 불분명하면 기업은 서비스 출시 전부터 법률 검토와 위험 평가, 내부 심의 등에 추가 비용을 투입해야 한다.

대기업은 자금과 조직력을 동원해 대응할 수 있지만 인력과 재정이 부족한 스타트업에는 규제 대응 비용이 시장 진입 장벽이 될 수 있다는 우려 역시 나온다.

따라서 AI 관련 업계에서는 피해 가능성이 크거나 명시적으로 금지할 필요가 있는 행위는 규제하되 그 밖의 영역에서는 기업의 자율성을 폭넓게 인정해야 한다고 주장한다.

AI 서비스를 우선 시장에서 활용하도록 하고 실제 문제가 발생한 사례를 토대로 분야별 규제 기준을 보완하는 방식이 바람직하다는 것이다.

◇ 미·중·EU·일 규제 엇갈려…정부 "1년 이상 계도"

주요국도 산업 여건에 따라 서로 다른 규제 방식을 택하고 있다.

미국은 포괄적인 연방 AI 기본법보다 행정명령과 분야별 제도를 중심으로 규제를 운용하며 기술 혁신과 기업 경쟁력 강화에 정책의 초점을 맞추고 있다.

특히 트럼프 행정부는 규제 장벽을 낮추고 AI 인프라와 수출을 확대하는 등 미국 기업의 글로벌 AI 주도권 확보를 정책 전면에 내세우고 있다.

중국은 생성형 AI 서비스와 알고리즘, AI 생성물 표시 등 개별 영역을 중심으로 규정을 마련했다.

AI 경쟁력이 미국·중국에 뒤처진 유럽연합(EU)은 AI 시스템을 위험 수준에 따라 금지 대상과 고위험, 투명성 의무 대상, 최소·무위험 등으로 구분하는 AI법을 단계적으로 시행하고 있다. 채용과 교육, 의료기기 분야에 활용되는 일부 고위험 AI에는 위험관리와 기록 보존, 사람의 감독과 같은 강화된 의무가 단계적으로 적용된다.

반면 일본은 지난해 제정한 AI법을 통해 규제보다는 진흥책에 무게를 뒀다는 평가를 받는다.

EU처럼 기업에 직접적 금지 행위를 지정하거나 징벌적 과징금을 부과하기보단 국가 차원의 AI 연구개발 촉진, 비즈니스 활용 지원, 전문 인력 양성에 초점을 뒀다는 것이다.

한국이 미국과 중국의 AI 산업을 추격해야 하는 상황에서 EU식 규제 체계를 초기부터 폭넓게 적용하면 국내 기업의 실험과 사업화를 제약할 수 있다는 지적도 나온다.

위정현 중앙대 가상융합대학 학장은 "한국은 AI 분야에서 선도국을 추격해야 하는 처지"라며 "세계에서 우선적으로 관련 법을 시행하는 것 자체보다 AI를 제조와 국방, 콘텐츠, 서비스 등 산업 전반에 활용해 경쟁력을 높이는 것이 중요하다"고 말했다.

이어 "정부가 AI 업계의 목소리에 예민하게 반응하고 시행령과 가이드라인을 유연하게 운용해야 한다"며 "초기부터 규제 중심으로 접근하면 다양한 AI 비즈니스 모델의 등장을 가로막을 수 있다"고 강조했다.

정부는 최소 1년 이상의 계도기간을 운영하면서 고영향 AI 적용 사례와 생성형 AI 표시 방식 등을 구체화할 계획이다.

법적 틀을 갖춘 만큼 앞으로는 AI의 위험을 관리하면서도 기업의 실험과 시장 진입을 위축시키지 않는 정교한 제도 운용이 과제로 남았다.

gogo213@yna.co.kr

Copyright 연합뉴스 All rights reserved. 무단 전재 및 재배포 금지.