[※ 편집자 주 = 한국국제교류재단(KF)의 2024년 발표에 따르면 세계 한류 팬은 약 2억2천500만명에 육박한다고 합니다. 또한 시간과 공간의 제약을 초월해 지구 반대편과 동시에 소통하는 '디지털 실크로드' 시대도 열리고 있습니다. 바야흐로 '한류 4.0'의 시대입니다. 연합뉴스 동포·다문화부 K컬처팀은 독자 여러분께 새로운 시선으로 한국 문화를 바라보는 데 도움이 되고자 전문가 칼럼 시리즈를 준비했습니다. 시리즈는 매주 게재합니다.]

[본인 제공]

요즘엔 인공지능(AI)이 학술 논문도 쓴다고 한다. 단언컨대 필자는 작성 여부보다 중요한 것은 책임의 소재라고 말하고 싶다.

최근 네이처(Nature)지에 흥미로운 기사가 실렸다. 과학 문헌 가운데 얼마나 많은 부분이 인공지능에 의해 생성되고 있는지를 다룬 기사였다. 학술지 논문, 프리 프린트, 동료심사 보고서에서 AI의 흔적이 점점 커지고 있지만 이를 신뢰성 있게 추정하는 도구는 아직 부족하다는 내용이었다.

질문은 자연스럽다. 이제 우리는 논문을 읽을 때마다 묻게 된다.

"이 글은 사람이 쓴 것일까, AI가 쓴 것일까."

그러나 이 질문만으로는 충분하지 않다. 정말 중요한 것은 "AI가 썼는가"가 아니라 "그 내용을 누가 검증했고, 누가 책임지는가"이기 때문이다.

생성형 AI가 보편화되면서 논문 초록, 서론, 문헌 검토, 심지어 심사 의견까지 AI의 도움을 받는 일은 빠르게 늘고 있다. 그래서 학계에서 "이 논문은 AI가 쓴 것인가"라는 질문이 등장하는 것은 자연스러운 일이다.

하지만 AI가 작성했다는 사실만으로 논문이 문제가 되는 것은 아니다. 인간이 쓴 글도 틀릴 수 있고, AI가 다듬은 문장도 정확할 수 있다. 비영어권 연구자가 영어 표현을 고치기 위해 AI를 활용하는 일, 초록의 문장을 정리하는 일, 문장 흐름을 자연스럽게 만드는 일은 연구 윤리의 본질적 문제와 거리가 멀다.

문제는 AI가 아니라 책임의 공백이다.

논문에 존재하지 않는 인용이 들어갔다면 "AI가 그렇게 만들었다"는 말은 변명이 될 수 없다. 통계 해석이 잘못됐다면 "챗봇이 그렇게 설명했다"는 말로 책임을 피할 수 없다. 문헌 검토가 실제 원문을 읽지 않은 채 AI 요약에 의존했다면 그것은 기술 활용이 아니라 검증의 포기다.

논문은 단순한 글이 아니다. 연구자가 자신의 이름을 걸고 세계에 제출하는 책임의 문서다. 따라서 AI가 일부 문장을 만들었는지보다 더 중요한 것은 저자가 그 내용을 이해하고, 확인하고, 책임질 수 있느냐다.

의학 논문 편집자 국제 위원회(International Committee of Medical Journal Editors, ICMJE)는 AI 도구를 저자로 올릴 수 없다고 분명히 밝히고 있다. 이유는 간단하다. 저자는 연구의 정확성, 무결성, 독창성에 책임질 수 있어야 한다. 오류가 발견되면 설명하고, 수정하고, 필요하면 철회 절차에도 응해야 한다. AI는 그런 책임을 질 수 없다.

엘스비어(Elsevier) 역시 비슷한 입장이다. 생성형 AI는 원고 작성 과정에서 제한적으로 활용될 수 있지만 적절한 감독과 공개가 필요하며 최종 책임은 인간 저자에게 있다. 또한 연구 방법이나 분석 과정에서 AI가 사용됐다면 그 사실은 방법론의 일부로 설명돼야 한다.

이 원칙은 매우 중요하다. AI 사용을 금지하자는 것이 아니라 AI 사용을 책임의 구조 안에 넣자는 뜻이기 때문이다.

우리는 종종 도구를 두고 너무 쉽게 선악을 나눈다. 계산기는 수학을 망치지 않았다. 통계 소프트웨어는 연구를 망치지 않았다. 검색엔진도 학문을 망치지 않았다. 문제는 도구를 썼다는 사실이 아니라 도구가 낸 결과를 이해하지 못한 채 자신의 판단인 것처럼 제출하는 행위다.

AI도 마찬가지다. AI가 논문을 도와줄 수는 있다. 하지만 AI가 연구자의 지적 책임을 대신할 수는 없다.

학계는 이미 숫자의 압박에 시달리고 있다

이 문제를 AI만의 문제로 보면 본질을 놓치게 된다. 더 깊은 곳에는 학계의 오래된 압박이 있다. 바로 논문 수와 피인용 수 중심의 평가 구조다.

최근 국내 대학을 둘러싼 이른바 '학술 용병' 논란은 이 구조의 민낯을 보여줬다. 보도에 따르면 일부 대학은 글로벌 대학평가 순위를 높이기 위해 해외 다작·고인용 연구자를 비전임 교원으로 임용하고, 이들이 발표하는 논문에 국내 대학 소속을 병기하도록 했다는 의혹을 받았다. 대학 측은 국제협력의 일환이라고 설명했지만 한국연구재단 내부 검토에서도 이러한 방식이 평가 지표의 허점을 활용한 측면이 있으며 "비난의 소지가 있다"는 평가가 나왔다.

여기서 중요한 것은 특정 국가나 특정 대학을 향한 비난이 아니다. 문제의 핵심은 평가 시스템이다.

논문 수가 점수가 되고, 피인용 수가 점수가 되고, 국제 공동연구 비율이 점수가 되면 사람들은 연구 자체보다 점수의 산출 방식을 최적화하기 시작한다. 연구를 잘하는 방법보다 지표를 잘 올리는 방법이 더 매력적인 전략이 되는 순간 학계는 본래의 목적에서 벗어난다.

그 결과가 학술 용병이고, 선물저자이고, 논문 쪼개기이며, 부실 학술지 투고다. AI 논문 대량생산 역시 같은 흐름 위에 놓여 있다. AI가 갑자기 학계를 타락시킨 것이 아니다. 이미 숫자 중심 평가에 지친 학계에 AI라는 강력한 생산 도구가 들어온 것이다. (2편에서 계속)

임기범 인공지능 전문가

▲ 서울과학종합대학원 대학교(aSSIST) 객원교수 ▲ 현 AI경영학회 상임이사 겸 학술분과 위원장 ▲ ㈜컴팩 CIO ▲ 전 신한 DS 디지털 전략연구소장

Copyright 연합뉴스 All rights reserved. 무단 전재 및 재배포 금지.