딥페이크 영상·음성·이미지 중심으로 표시 의무 추진

단순 보정은 제외 검토…허위정보 차단 실효성은 숙제

2025년 12월 4일 서울 강남구 코엑스 더플라츠에서 열린 'AI콘텐츠 페스티벌'에서 참관객들이 버추얼(가상) 아티스트 영상을 체험하는 모습. [연합뉴스 자료사진]

(서울=연합뉴스) 유현민 기자 = 인공지능(AI)이 뉴스와 영상 제작의 문턱을 낮추면서 사람이 만든 콘텐츠와 AI가 만든 콘텐츠를 구분하기 어려운 시대가 됐다.

사진 한 장이나 짧은 영상을 만드는 데 그치지 않고 기사 작성과 번역, 음성 합성, 영상 편집까지 AI 활용 범위가 넓어지면서 온라인 콘텐츠의 '출처'를 확인하는 일도 갈수록 중요해지고 있다.

방송미디어통신위원회가 AI 생성물 표시제 도입을 추진하는 것도 이런 변화에 대응하기 위해서다.

방미통위는 지난달 하반기 업무계획에서 AI 생성물 표시제와 함께 추천 알고리즘의 투명성을 강화하는 방안을 주요 과제로 제시했다.

◇ "AI가 만들었다" 표시하면 충분할까

AI 생성물 표시제의 취지는 이용자가 콘텐츠를 접할 때 사람의 창작물인지, AI가 생성하거나 상당 부분 변형한 것인지 알 수 있도록 해 허위·조작 정보로 인한 피해를 줄이자는 데 있다.

하지만 실제 제도를 설계하려면 어디까지를 'AI 생성물'로 볼 것인지부터 정해야 한다.

AI로 사진의 배경 일부를 수정한 경우와 사람의 얼굴이나 목소리를 통째로 합성한 경우를 같은 기준으로 표시하기는 어렵다. 기사 작성 과정에서 AI로 문장을 다듬거나 번역한 경우, 사람이 취재한 내용을 AI가 요약한 경우도 마찬가지다.

실제 뉴스 제작 현장에서도 AI 활용이 늘고 있다. 취재기사가 작성한 기사를 AI로 요약하거나 외신을 번역해 초안으로 활용한 뒤 기자가 사실관계와 문장을 확인하는 방식이다. 이런 경우까지 모두 AI 생성물로 표시할 경우 뉴스 제작 과정에서의 통상적인 AI 활용까지 규제 대상에 포함될 수 있다.

이처럼 AI 활용을 폭넓게 표시하면 정상적인 창작·편집 활동까지 규제 대상이 될 수 있고, 반대로 합성 영상이나 음성 등으로 한정하면 이용자가 알아야 할 정보가 빠질 수 있다.

방미통위 관계자는 "현재 발의된 법안은 실제와 오인·혼동할 수 있는 딥페이크 영상·음성·이미지 등을 대상으로 표시제를 도입하는 방향"이라며 "이용자가 AI 생성물이라는 사실을 명확히 인식할 수 있으면 된다"고 말했다.

특히 AI를 단순 편집이나 보정 등에 활용한 경우는 표시 대상에서 제외하는 방안도 검토되고 있다. 구체적인 기준은 법 개정 이후 하위법령이나 가이드라인 등을 통해 정해질 전망이다.

2025년 12월 4일 서울 강남구 코엑스 더플라츠에서 열린 'AI콘텐츠 페스티벌'에서 참관객들이 AI 아티스트 커뮤니티 작품들을 관람하는 모습. [연합뉴스 자료사진]

◇ '표시'만으로 AI 허위정보 막을 수 있나

더 근본적인 문제는 AI 생성물이라는 사실을 표시하는 것만으로 실제 피해를 줄일 수 있느냐다.

AI로 만들어진 콘텐츠라는 사실을 알려주는 것과 그 콘텐츠가 거짓인지 판별하는 것은 전혀 다른 문제이기 때문이다.

실제 인물의 얼굴과 목소리를 정교하게 합성한 영상에 'AI 생성'이라는 문구가 붙더라도 이용자가 영상 속 주장의 진위를 곧바로 판단할 수 있는 것은 아니다.

특히 유튜브와 숏폼 플랫폼, 사회관계망서비스(SNS)에서는 콘텐츠의 생산과 확산 속도가 빠른 만큼 자극적인 콘텐츠가 먼저 퍼질 가능성도 있다.

방미통위가 AI 생성물 표시제와 함께 추천 알고리즘 투명성 강화를 추진하는 것도 이런 문제의식과 맞닿아 있다. AI가 콘텐츠를 만들어내는 단계뿐 아니라 어떤 콘텐츠가 누구에게 얼마나 노출되는지도 살펴봐야 한다는 의미다.

국내 이용자들이 소비하는 AI 콘텐츠도 유튜브나 글로벌 SNS 등 해외 플랫폼을 통해 유통되는 만큼 국내 사업자 중심으로 제도를 설계하면 실효성이 떨어질 수 있다는 우려도 있다.

해외 플랫폼에 동일한 의무를 부과하려면 국내법의 적용 범위와 집행 가능성, 국가별 표시 기준 차이 등을 함께 따져야 한다.

그렇다고 규제를 늦추기도 쉽지 않다. 생성형 AI 기술이 빠르게 발전하면서 합성 이미지와 영상, 음성의 품질이 실제 콘텐츠와 구별하기 어려운 수준으로 높아지고 있기 때문이다.

◇ AI 시대 미디어 신뢰의 출발점 될까

AI 생성물 표시제는 단순한 콘텐츠 규제를 넘어 AI 시대 미디어 신뢰의 문제이기도 하다. 생성형 AI가 보편화할수록 콘텐츠 자체만으로 제작 주체와 진위를 판단하기 어려워지는 만큼 이용자가 콘텐츠의 성격과 출처를 확인할 수 있는 장치가 필요하다.

다만 표시 의무가 지나치게 광범위해지면 정상적인 창작 활동을 위축시키고, 플랫폼에 과도한 책임을 부과할 경우 표현의 자유와 서비스 혁신을 제약할 가능성도 있다.

방미통위 관계자는 개인적인 의견을 전제로 "허위조작정보 식별 대책은 AI 기술 활용 여부에 국한되는 문제가 아니다"라며 "근본적으로 이용자의 미디어·AI 리터러시 교육 등이 함께 이뤄질 필요가 있다"고 말했다.

AI가 콘텐츠를 만드는 시대를 막을 수는 없다. 결국 중요한 것은 이용자가 AI 콘텐츠를 접했을 때 무엇이 어떻게 만들어졌는지 알고 스스로 판단할 수 있도록 하는 것이다.

방미통위의 AI 생성물 표시제가 새로운 미디어 신뢰 기준을 마련하는 출발점이 될 수 있을지 주목된다.

hyunmin623@yna.co.kr

Copyright 연합뉴스 All rights reserved. 무단 전재 및 재배포 금지.