AI 조작 사진에 속수무책…교묘해진 사기 기법에 구매자들 '자구책'

전문가 "기술 판별 불가능 수준…안전결제·직거래가 대안"

[엑스 캡처. 재판매 및 DB 금지]

(서울=연합뉴스) 서효주 인턴기자 = "물품 위에 자를 놓고 찍어주세요."

최근 중고거래 플랫폼 이용자들 사이에서 새로운 물품 인증 방식이 등장했다. 판매자에게 중고 물품 옆에 자나 안경을 함께 놓고 촬영하도록 요구하는 방식이다.

생성형 인공지능(AI)이 자의 숫자 표기나 물건 크기를 정확하게 구현하기 어렵다는 점을 이용한 방법으로, AI로 조작한 사진을 구별해 내기 위한 자구책이다. 이전에는 판매자가 날짜와 아이디를 적은 종이를 물품과 함께 찍은 사진을 올리면 믿고 거래가 이뤄졌지만, 최근 AI로 조작한 인증 사진을 이용한 거래 사기가 늘었기 때문이다.

◇ "사진 속 손 글씨, 눌린 흔적 없어"…AI 조작 의심 사례 잇따라

6일 연합뉴스 취재를 종합하면 최근 엑스(X)에는 AI로 조작한 인증 사진을 의심하거나 사기를 피했다는 경험담이 잇따라 올라오고 있다.

아이돌 그룹 NCT 위시의 한정판 콜라보 굿즈를 구매하려던 이모(20대) 씨는 최근 판매자로부터 받은 인증 사진을 본 뒤 거래를 중단했다.

사진 속 자필 손 글씨에 펜으로 눌러 쓴 흔적이 보이지 않아 AI 조작이 의심됐기 때문이다.

이 씨는 "판매자 프로필을 확인해보니 (한 그룹 굿즈를 판매하는 아이돌 팬들과 달리) 서로 관련 없는 여러 장르 물건을 동시에 판매하고 있어 사기가 의심됐다"며 "다시 연락을 시도했을 때는 이미 차단된 상태였다"고 말했다.

아이돌 그룹 스트레이 키즈(Stray Kids) 굿즈 인형을 거래하려던 고교생 장모(18) 양 역시 비슷한 경험을 했다.

장 씨는 "사진 속 인형은 실제 크기가 10㎝ 정도인데 인증을 위한 메모가 비정상적으로 작았다"며 "혹시 몰라 영상을 요청했더니 갑자기 기분이 나쁘다며 거래를 취소했다"고 말했다.

[독자 제공]

장 씨가 사진을 인터넷에서 검색한 결과 포스트잇 메모가 없는 원본 이미지를 확인할 수 있었다.

판매자가 AI로 생성한 포스트잇 메모와 인터넷에 있는 인형 사진을 합성해 만든 인증사진을 통해 사기를 치려 한 것으로 의심되는 정황이다.

이 같은 사례가 늘어나면서 이용자들이 자 등을 이용한 인증 방법을 찾고 있다.

김모(20대) 씨는 AI가 사진 생성 때 물품 크기를 정확하게 반영하지 못한다는 점에 착안해 물건 옆에 자를 놓고 촬영하는 방식을 활용하고 있다.

김 씨는 "SNS에서 AI가 작은 글씨나 숫자, 얼굴 표현에 약하다는 이야기를 보고 자를 이용한 인증을 생각하게 됐다"며 "실제로 자와 함께 촬영한 인증사진을 요구해 사기를 피했다는 사례도 봤다"고 말했다.

그러나 이러한 방법 역시 임시방편에 불과하다는 지적이 나온다.

AI 기술이 더 발전하면 실제 물품과 인증 메모 크기를 잘 반영하고 세밀한 자 눈금 표현도 가능해질 수 있기 때문이다.

◇ 플랫폼·전문가 "기술 판별보다 거래 방식 개선이 현실적"

중고거래 플랫폼들도 AI를 악용한 중고거래 사기를 막기 위한 대책 마련에 나서고 있다.

중고거래 플랫폼 당근은 대형언어모델(LLM) 기반 분석을 통해 AI 생성 이미지가 의심될 경우 사기 신호 중 하나로 참고하고 있으며 전문 운영 인력 모니터링과 이용자 신고 시스템을 결합해 사기 게시글을 탐지하고 있다고 밝혔다. 또한, 사기거래 적발 시 이용자 재가입을 제한하는 조치를 적용하고 있다.

[엑스 캡처. 재판매 및 DB 금지]

번개장터는 작년 4월부터 AI 생성 이미지 기반 상품 거래를 제한하는 정책을 시행하고 있다며 관련 상품은 운영정책에 따라 삭제 조치하고 있다고 전했다.

전문가들은 일반 이용자가 AI 생성 여부를 판별하기는 매우 어렵다며 직거래나 결제방식 변경 등 사기 피해 방지를 위한 대책을 마련할 필요가 있다고 당부했다.

김동현 강원대 AI융합학과 교수는 "전문가들은 이미지나 영상 속 픽셀을 분석해 생성형 AI로 만들어진 흔적을 찾는 기술을 사용할 수 있지만, 일반인이 사용하기에는 한계가 있다"며 "현재 수준에서는 이용자가 직접 진위를 구별하기는 어렵다"고 말했다.

김 교수는 "온라인상에서 AI 생성 여부를 판별해준다는 사이트와 프로그램을 쉽게 찾을 수 있지만, 인증되지 않은 프로그램의 경우 악성코드 등 보안 문제가 발생할 가능성도 있다"며 "단순히 인증 사진 한 장에 의존하기보다　에스크로 서비스, 직거래 등 검증된 거래 방식을 활용하는 것이 피해를 줄이는 데 도움이 될 수 있다"고 조언했다.

중고사기 피해 막는다…'모바일 신분증 인증' 도입[http://yna.kr/AKR20260605079600505]

seohyoju@yna.co.kr

제보용 카카오톡 친구추가 ID는 'okjebo'

Copyright 연합뉴스 All rights reserved. 무단 전재 및 재배포 금지.