AI·SNS 확산 속 대형 플랫폼 신고·처리 절차 마련

표현 위축 우려도…투명한 운영 기준 확보가 관건

[AI 생성 이미지/챗GPT]

(서울=연합뉴스) 유현민 기자 = 인공지능(AI) 기술 발전과 사회관계망서비스(SNS) 확산으로 허위조작정보의 생산과 유통 방식이 빠르게 변화하는 가운데 이를 체계적으로 대응하기 위한 새 제도가 시행된다.

7일부터 시행되는 개정 정보통신망법은 일정 규모 이상의 온라인 플랫폼이 허위조작정보 신고·처리 절차와 운영정책을 마련하고 관련 현황을 공개하도록 하는 내용을 담고 있다.

정부는 이번 제도가 온라인 표현 자체를 규제하는 것이 아니라 불법성이 확인된 허위조작정보의 반복 유통과 수익화를 막아 이용자 피해를 줄이기 위한 장치라고 설명한다.

다만 허위정보와 의견·비판의 경계를 어떻게 구분할지, 플랫폼의 자율 판단 과정에서 과잉 삭제나 표현 위축 우려를 어떻게 해소할지는 과제로 남아 있다.

◇ 허위정보 피해 커진 AI 시대…제도적 대응 본격화

최근 생성형 AI 확산으로 허위 이미지와 영상, 조작 콘텐츠 제작이 쉬워지면서 온라인 허위정보 문제가 사회적 과제로 떠올랐다.

허위정보는 명예훼손과 사기, 재난 상황 혼란, 선거 관련 허위 주장 등 다양한 형태로 확산하며 사회적 비용을 초래해 왔다.

그동안 피해자가 허위정보 작성자를 특정하거나 손해배상을 받기 어렵다는 지적이 이어졌고, 광고와 후원 수익을 노린 허위정보 유통이 반복되면서 제도적 대응 필요성이 제기됐다.

해외에서도 플랫폼 책임을 강화하는 흐름이 나타나고 있다.

유럽연합(EU)은 디지털서비스법(DSA)을 통해 대형 플랫폼의 책임을 확대했고, 독일은 네트워크집행법(NetzDG)을 통해 불법 콘텐츠 대응 의무를 부과하고 있다.

국내에서도 온라인 허위정보 대응 필요성이 커지면서 관련 제도가 마련됐다.

2025년 12월 24일 국회에서 열린 12월 임시국회 본회의에서 허위조작근절법이 민주당 주도로 처리되고 있다. [연합뉴스 자료사진. 재판매 및 DB 금지]

◇ 삭제보다 절차 구축 초점…플랫폼 자율 운영 기반

이번 제도는 정부가 허위조작정보 여부를 직접 판단하기보다 플랫폼의 자율 운영 체계를 중심으로 설계됐다.

정부는 허위조작정보 여부를 플랫폼이 자체 운영정책과 사실확인 절차에 따라 판단하는 구조라고 설명하고 있다.

전년도 말 기준 직전 3개월의 하루 평균 이용자 수 100만명 이상인 대규모 플랫폼 사업자는 허위조작정보 대응 운영정책을 마련하고 신고 접수·처리 절차를 운영해야 한다.

이용자 규모를 고려하면 유튜브, 인스타그램, 엑스(X), 페이스북, 디시인사이드 등이 포함될 것으로 예상된다.

또 신고가 접수되면 처리 결과와 이유를 통지하고, 이의신청 절차를 제공해야 한다. 운영 현황을 담은 투명성 보고서도 정기적으로 공개해야 한다.

과징금 부과 대상은 플랫폼 사업자가 아니라 법원에서 불법 또는 허위조작정보로 확정된 내용을 반복 유통해 수익을 얻은 일정 규모 이상의 정보 게재자다.

직전 3개월 동안 3건 이상 정보를 게시해 광고·후원 수익을 얻고, 구독자 10만명 이상 또는 월평균 조회수 10만회 이상 등의 기준도 충족해야 한다.

정부는 단순한 의견 표명이나 비판, 정치적 주장 자체는 규제 대상이 아니라고 설명한다. 일반에 공개되지 않는 카카오톡 등 사적 메시지 역시 규제 대상이 아니다. 정부는 이번 제도에 플랫폼 사업자에 대한 형사처벌 규정은 없다고 덧붙였다.

◇ 판단 기준·투명성 확보가 관건…균형 있는 운영 필요

다만 실제 운영 과정에서는 허위정보와 의견·비판의 경계를 어디까지 볼 것인지가 핵심 쟁점이 될 전망이다.

플랫폼마다 운영정책과 판단 기준이 달라 유사한 게시물에 대해서도 서로 다른 조치가 이뤄질 가능성이 있다는 지적도 나온다.

사업자들이 법적 위험을 우려해 게시물을 과도하게 삭제할 경우 표현의 자유 침해 논란이 불거질 수 있다는 우려도 제기된다.

결국 새 제도의 성패는 플랫폼별 판단 기준의 투명성, 이용자 이의제기 절차의 실효성, 투명성 보고서 운영 등을 통해 사회적 신뢰를 확보할 수 있느냐에 달렸다는 평가가 나온다.

실제로 플랫폼들이 어떤 기준으로 게시물을 처리할지, 신고가 급증할 경우 제도가 안정적으로 작동할 수 있을지, 허위정보 억제라는 공익적 목표와 표현의 자유 보장 사이에서 균형을 유지할 수 있을지 등이 제도 안착의 시험대가 될 전망이다.

hyunmin623@yna.co.kr

Copyright 연합뉴스 All rights reserved. 무단 전재 및 재배포 금지.