'AI 재현 관측소' 구축해 프레임 등 분석…"야생·분쟁·빈곤 ＞ 현대문화·도시"

[반크 제공. 재판매 및 DB 금지]

(서울=연합뉴스) 박성진 기자 = 사이버 외교사절단 반크(단장 박기태)는 생성형 인공지능(AI)이 아프리카 55개국을 어떤 프레임과 이미지 등으로 설명하는지 분석한 온라인 플랫폼 '아프리카 55개국 AI 재현 관측소'(www.prkorea.com/action1.html)를 구축했다고 13일 밝혔다.

AI 답변의 사실 오류뿐 아니라 국가를 설명하는 과정에서 어떤 정보가 반복되거나 배제되는지, 특정 이미지와 인식의 틀이 어떻게 재현되는지를 분석한 플랫폼이다.

반크는 아프리카연합(AU) 회원국 55개국에 대해 챗GPT와 제미나이가 어떤 대답을 내놓는지 살펴봤다.

반크는 각 국가에 한국어와 영어로 국가 기본 정보, 정치·경제, 사회·문화, 국제적 역할, 연상 키워드 5가지 등 같은 표준 질문을 입력해 국가당 20개, 총 1천100개의 응답을 수집했다.

수집된 응답은 문장 단위로 13개 프레임에 따라 분류됐다.

빈곤, 분쟁, 원조 의존, 자연·야생, 전통·민족, 식민사는 '제한 프레임'으로, 정치, 경제, 기술, 도시, 청년·교육, 외교, 현대문화는 '복합 프레임'으로 구분했다.

전체 프레임 빈도를 합산한 결과 야생, 분쟁, 식민사, 빈곤 프레임이 현대문화, 도시, 기술 프레임보다 더 자주 나타났다.

반크는 이를 향후 'AI 속 아프리카 재현 개선 캠페인'의 기초자료로 활용할 계획이다.

국가별 AI 생성 이미지도 별도로 분석했다.

그 결과 서로 다른 국가임에도 불구하고 초원과 사파리, 코끼리 떼가 반복적으로 등장해 국가별 차이를 구분하기 어려운 사례가 다수 확인됐다.

제미나이가 생성한 보츠와나, 탄자니아, 남아프리카공화국, 케냐, 짐바브웨, 중앙아프리카공화국, 잠비아의 이미지에서는 비슷한 초원과 코끼리 풍경이 나타났다.

반크는 아프리카 개별 국가의 도시와 산업, 문화, 역사적 맥락보다 대륙 전체에 대한 익숙한 시각적 상징이 우선 작동한 결과라고 분석했다.

반크는 AI 답변의 사실성과 최신성도 함께 검토했다.

사실 오류가 94건으로 가장 많았으며 부분 오류 15건, 현황 미반영 10건, 판단 유보 4건, 맥락 보완 3건이 각각 확인됐다.

플랫폼별로는 이들 검토된 오류 126건 중 115건(91.3%)이 챗GPT에 집중됐다.

특히 지명과 인명, 민족, 언어, 문화 요소를 한국어로 전환하는 과정에서 표기와 음역 오류가 두드러졌다.

대표적인 사례는 아프리카 국가 '가봉'이다.

챗GPT의 한국어 응답은 가봉을 설명해 달라는 요청에 "의류 제작 과정에서 옷의 디자인과 핏(모양)을 확인하기 위해 만든 첫 번째 시제품"이라고 답했다. 국가명 '가봉'을 봉제 용어 '가봉'(假縫)과 혼동한 것이다.

반크는 이를 특정 플랫폼과 아프리카 현지어의 한국어 전환 과정에서 오류가 더 자주 발생한다는 점을 시사한다고 분석했다.

국가별 산업 구조를 일부 농산물로 획일화한 경제 서술도 있었다.

AI는 부르키나파소, 잠비아, 기니비사우, 토고, 베냉 5개국의 주요 수출품을 커피와 카카오 중심으로만 반복 설명했다.

반크는 이런 서술이 아프리카 각국의 경제적 다양성을 반영하지 못한 채, 대륙 전체를 일부 1차 농산물의 이미지로 평준화한 사례라고 지적했다.

[연합뉴스 자료사진. 재판매 및 DB 금지]

사이트를 구축한 이세연 반크 청년연구원은 "AI는 방대한 정보를 학습하지만, 이용자가 가장 먼저 마주하는 것은 몇 개의 키워드와 이미지"라며 "이번 플랫폼은 AI가 한 국가를 어떤 프레임으로 압축해 기억하고 재현하는지를 시민 누구나 확인할 수 있도록 설계한 'AI 재현 관측소'"라고 설명했다.

이어 "AI 속 편향은 사람이 가진 편견과 달리 데이터를 보완하고 검증하는 과정을 통해 개선될 가능성이 있다"며 "이번 프로젝트가 아프리카를 보다 다양하고 입체적으로 설명하는 데이터 환경을 만드는 출발점이 되길 기대한다"고 덧붙였다.

박기태 반크 단장은 "한국이 AI 국제기구의 세계 허브를 지향한다면 모델 성능 경쟁을 넘어, 세계 각 지역이 정확하고 균형 있게 재현될 수 있도록 국제적 기준을 제안해야 한다"며 "기술 경쟁력과 지식 다양성을 함께 이끄는 것이야말로 한국이 선도해야 할 새로운 글로벌 의제"라고 강조했다.

반크는 아프리카 55개국 연상 키워드와 AI 응답을 지속 축적해 장기적인 재현 변화를 공개할 계획이다.

국가별로 과도하게 반복되는 정보와 상대적으로 부족한 정보를 시각화하는 한편 향후 AI 기업과 국제기구, 교육기관, 시민사회 등이 활용할 수 있는 'AI 국가 재현 모니터링 체계'로 발전시켜 나간다는 구상이다.

sungjinpark@yna.co.kr

Copyright 연합뉴스 All rights reserved. 무단 전재 및 재배포 금지.