AI 유령 인용이 드러낸 학술 신뢰의 균열…문장을 훔치지 않는 것만으로는 충분하지 않다

논문은 주장만으로 성립하지 않는다. 논문은 근거 위에 선다. 연구자는 자신의 주장이 어디에서 출발했는지, 어떤 선행연구를 검토했는지, 어떤 자료를 바탕으로 논리를 세웠는지 밝혀야 한다. 그래서 논문에는 참고문헌이 있다. 참고문헌은 논문 말미에 붙는 형식적 목록이 아니라, 연구자가 자신의 주장을 학술 공동체 안에 위치시키는 방식이다.

인용은 장식이 아니다. 참고문헌의 수가 많다고 논문이 깊어지는 것도 아니고, 유명한 학술지 이름이 들어간다고 주장이 곧바로 강해지는 것도 아니다. 인용은 책임이다. 연구자는 자신이 인용한 문헌을 실제로 읽고, 그 내용을 자신의 논지 안에서 이해하며, 그 문헌이 자신의 주장을 실제로 뒷받침하는지 확인해야 한다. 논문의 최소한의 양심은 여기에서 시작된다.

그러나 생성형 AI의 확산 이후 이 기본 전제가 흔들리고 있다. AI는 자연스러운 문장을 만들 수 있을 뿐 아니라, 실제 학술문헌처럼 보이는 참고문헌도 만들어낼 수 있다. 제목, 저자명, 학술지명, 출판연도, 권호, 페이지, 때로는 DOI 형식까지 갖춘 문헌이 제시된다. 겉으로 보면 그럴듯하다. 그러나 학술 데이터베이스에서 확인해보면 실제로 존재하지 않는 경우가 있다. 이른바 ‘AI 유령 인용’ 또는 ‘가짜 참고문헌’ 문제다.

이 문제는 단순한 기술 오류가 아니다. 존재하지 않는 논문이 참고문헌 목록에 들어가는 순간, 논문의 검증 가능성은 훼손된다. 독자는 저자의 주장을 따라가며 근거를 확인할 수 있어야 한다. 인용된 문헌을 찾아 읽고, 저자가 그 문헌을 제대로 이해했는지, 그 문헌이 실제로 본문 주장을 뒷받침하는지 확인할 수 있어야 한다. 그런데 참고문헌 자체가 존재하지 않는다면 그 확인 과정은 처음부터 불가능해진다.

과거에도 참고문헌 오류는 있었다. 저자 이름의 철자가 틀리거나, 출판연도가 잘못 표기되거나, 학술지명 약어가 부정확하거나, 페이지 정보가 누락되는 일은 드물지 않았다. 이런 오류는 대개 실제 문헌을 옮겨 적는 과정에서 생긴 실수였다. 그러나 생성형 AI가 만들어내는 가짜 참고문헌은 성격이 다르다. 처음부터 존재하지 않는 문헌이 실제 문헌의 외형을 갖추고 등장할 수 있다. 이것은 오탈자나 서지 형식의 문제가 아니라, 존재하지 않는 근거가 학술적 권위의 형식을 입는 문제다.

이 현상은 이미 연구를 통해 확인되고 있다. 2023년 Scientific Reports에 실린 William H. Walters와 Esther Isabelle Wilder의 연구는 ChatGPT-3.5와 GPT-4가 생성한 문헌 검토 글 84편에 포함된 참고문헌 636건을 분석했다. 연구진은 여러 학술 데이터베이스와 웹사이트를 통해 해당 문헌이 실제로 존재하는지 확인했다. 그 결과 GPT-3.5가 생성한 참고문헌의 55%, GPT-4가 생성한 참고문헌의 18%가 실제 학술문헌으로 확인되지 않는 조작된 참고문헌으로 나타났다. 실제 존재하는 문헌이라 하더라도 저자, 제목, 연도, 학술지명, 권호, 페이지 등에서 실질적 오류가 확인됐다.

이 연구가 던지는 질문은 분명하다. AI가 글을 잘 쓰는 것과 AI가 근거를 정확히 제시하는 것은 같은 일이 아니다. 문장은 매끄러울 수 있다. 문단은 논리적으로 보일 수 있다. 그러나 그 문장이 기대고 있는 근거가 실제로 존재하지 않는다면, 그 글은 학술적 검증 가능성을 잃는다. AI의 위험은 단순히 틀린 말을 한다는 데 있지 않다. 틀린 말을 그럴듯한 근거와 함께 제시할 수 있다는 데 있다.

더 큰 문제는 가짜 참고문헌이 사람의 눈에 쉽게 드러나지 않는다는 점이다. 참고문헌 목록은 대개 정해진 양식에 따라 정돈되어 있다. 저자명, 연도, 제목, 학술지명, 권호, 페이지가 순서대로 배열되어 있으면 독자는 그것을 실제 문헌으로 받아들이기 쉽다. 실제 학술지명과 유사한 이름, 실제 연구자처럼 보이는 저자명, 실제 DOI처럼 보이는 문자열이 결합되면 의심은 더 줄어든다. 참고문헌은 형식이 갖춰질수록 오히려 더 안전해 보인다.

그러나 형식은 실재를 보장하지 않는다. APA 양식에 맞게 작성된 참고문헌이라고 해서 실제 문헌이라는 뜻은 아니다. DOI 형식의 문자열이 있다고 해서 실제 DOI라는 뜻도 아니다. 학술지명처럼 보이는 이름이 있다고 해서 실제 학술지에 게재된 논문이라는 뜻도 아니다. AI 시대의 허위 인용은 바로 이 간극을 파고든다. 학술문헌의 형식을 빌려 학술적 신뢰를 가장하는 것이다.

최근에는 이러한 문제가 실제 학술 출판물 안에서도 확인되고 있다. 2026년 Nature는 생의학 논문 약 250만 편, 참고문헌 약 9700만 건을 대상으로 한 감사 결과를 보도했다. 해당 분석은 추적되지 않는 허위 참고문헌이 포함된 논문이 확인됐고, 특히 2023년 이후 허위 참고문헌 비율이 증가했다는 점을 지적했다. 같은 주제를 다룬 Lancet 논문 역시 대규모 생의학 논문 자료를 바탕으로 참고문헌 무결성 문제를 제기했다.

물론 이런 결과를 해석할 때는 신중해야 한다. 모든 미확인 참고문헌이 곧바로 AI가 만든 가짜 문헌이라는 뜻은 아니다. 학술 데이터베이스의 수록 범위는 서로 다르고, 오래된 문헌이나 지역 학술지, 학위논문, 보고서, 번역 제목, 학술지명 변경 사례는 검색이 쉽지 않을 수 있다. 국내 학술문헌의 경우 국문 제목과 영문 제목이 병기되거나, 저자명 로마자 표기가 여러 방식으로 나타나거나, KCI·RISS·DBpia·국회도서관·학회 홈페이지 등에 자료가 흩어져 있을 수 있다. 따라서 한 데이터베이스에서 검색되지 않는다는 이유만으로 곧바로 가짜 논문이라고 단정해서는 안 된다.

그럼에도 불구하고 이 문제를 가볍게 볼 수는 없다. 허위 참고문헌은 논문 한 편의 작은 실수로 끝나지 않을 수 있기 때문이다. 학술은 인용을 통해 축적된다. 하나의 문헌은 다른 문헌의 근거가 되고, 그 문헌은 다시 또 다른 연구의 출발점이 된다. 존재하지 않는 논문이 인용망 안으로 들어가면, 그 오류는 단일 문서 안에 머물지 않는다. 다른 연구자나 학생이 그 문헌을 다시 인용하거나, AI가 그 문헌을 학습·요약·재생산하는 과정에서 허위 근거가 반복될 수 있다. 학술 생태계의 신뢰는 바로 이런 방식으로 손상된다.

문제는 AI만이 아니다. AI는 오래된 학술 관행의 취약성을 드러낸다. 연구자가 직접 읽지 않은 문헌을 인용하는 일, 다른 논문에 등장한 인용을 원문 확인 없이 재인용하는 일, 제목과 초록만 보고 문헌의 내용을 추정하는 일, 실제로는 자신의 논지를 뒷받침하지 않는 문헌을 근거처럼 붙이는 일은 이전에도 존재했다. AI는 이 문제를 새로 만든 것이 아니라, 더 빠르고 더 그럴듯하게 증폭시킬 수 있게 만들었다.

따라서 허위 인용의 시대에 필요한 질문은 단순히 “AI를 사용했는가”가 아니다. 더 중요한 질문은 “인용한 문헌을 읽었는가”, “그 문헌의 내용을 이해했는가”, “그 문헌이 실제로 존재하는지 확인했는가”, “그 문헌이 본문의 주장을 실제로 뒷받침하는가”다. 이 네 가지 질문 앞에서 연구자는 자신의 글에 대한 책임을 져야 한다.

표절하지 않았다는 사실만으로 학술적으로 정직하다고 말하기는 어렵다. 표절은 타인의 문장을 부당하게 가져오는 문제다. 그러나 허위 인용은 존재하지 않는 근거를 제시하거나, 확인하지 않은 근거를 자신의 주장 뒤에 세우는 문제다. 문장을 훔치지 않았더라도, 자신이 읽지 않은 문헌을 읽은 것처럼 인용했다면 그것은 정직한 학술 행위라고 보기 어렵다. 실제로 존재하는 문헌이라도 그 내용을 제대로 이해하지 않은 채 인용했다면, 형식적으로는 참고문헌이 맞을지 몰라도 학술적으로는 부실한 인용이다.

학술의 양심은 거창한 선언에서 시작되지 않는다. 연구자가 자신이 인용한 문헌을 실제로 확인하는 데서 시작된다. 그 문헌이 존재하는지 확인하고, 본문에서 말한 내용이 실제 문헌의 내용과 맞는지 대조하고, 원문을 읽지 않았다면 2차 인용임을 분명히 밝히는 데서 시작된다. 인용문헌의 실재 여부를 확인하는 것은 특별히 고도화된 연구자만의 의무가 아니다. 논문을 쓰는 사람이 지켜야 할 최소한의 책임이다.

국제 학술출판계도 AI 사용과 관련해 인간 저자의 책임을 강조하고 있다. 국제 의학학술지 편집인위원회(ICMJE)는 AI 보조 기술을 사용한 경우 저자가 이를 공개해야 하며, AI 도구는 정확성·무결성·독창성에 책임질 수 없기 때문에 저자가 될 수 없다고 설명한다. 또한 인간 저자가 AI 생성 결과물을 신중하게 검토하고 수정해야 하며, 적절한 인용과 완전한 참고문헌을 보장해야 한다고 안내한다. 세계의학편집인협회(WAME) 역시 챗봇을 활용한 원고에서 인간 저자가 내용의 정확성, 표절 여부, 출처 표시의 적절성에 책임져야 한다고 권고한다.

이 원칙은 명확하다. AI는 책임질 수 없다. 책임은 인간 연구자에게 있다. AI가 참고문헌을 제시했더라도, 그것을 원고에 넣기로 결정한 사람은 연구자다. AI가 존재하지 않는 논문을 만들어냈더라도, 그것을 확인하지 않고 제출했다면 그 책임은 도구가 아니라 저자에게 돌아간다. “AI가 그렇게 알려줬다”는 말은 학술적 책임의 면제가 될 수 없다.

대학과 학술지는 이 문제를 개인의 양심에만 맡겨둘 수 없다. 연구윤리는 개인의 성실성에 기대야 하지만, 동시에 제도와 교육으로 뒷받침되어야 한다. 대학원 연구윤리 교육은 표절 예방과 인용 형식 교육을 넘어, 참고문헌 실재성 확인과 원문 확인의 중요성을 가르쳐야 한다. 학위논문 제출 과정에서는 단순 유사도 검사뿐 아니라, 핵심 참고문헌의 실재 여부와 인용 적합성을 확인하는 절차가 논의될 필요가 있다. 학술지 심사에서도 문장 유사도뿐 아니라 인용문헌의 신뢰성을 점검하는 장치가 필요해지고 있다.

물론 모든 참고문헌을 완벽하게 검증하는 것은 쉽지 않다. 연구 분야에 따라 문헌 수는 많고, 자료 유형도 다양하며, 데이터베이스마다 수록 범위가 다르다. 그러나 어렵다는 이유로 손을 놓을 수는 없다. 최소한 핵심 주장에 직접 연결되는 문헌, AI가 제시한 문헌, 낯선 학술지나 불명확한 DOI가 포함된 문헌, 데이터베이스에서 쉽게 확인되지 않는 문헌은 추가 확인 대상이 되어야 한다. 학술 생태계의 신뢰는 이런 작은 확인 절차에서 유지된다.

허위 인용은 학술의 주변 문제가 아니다. 그것은 학술이 학술일 수 있는 조건, 즉 검증 가능성의 문제다. 논문은 독자가 저자의 주장을 따라가며 근거를 확인할 수 있어야 한다. 인용은 그 확인의 길이다. 그 길이 존재하지 않는 문헌으로 막혀 있다면, 논문의 외형은 유지될지 몰라도 학술적 신뢰는 무너진다.

AI 시대의 연구윤리는 새로운 기술을 얼마나 잘 쓰는가의 문제가 아니다. 오히려 더 오래된 질문으로 돌아간다. 연구자는 자신이 인용한 문헌을 읽었는가. 그 문헌을 이해했는가. 그 문헌이 실제로 존재하는지 확인했는가. 그 문헌이 자신의 주장을 뒷받침하는지 검토했는가. 이 질문에 답할 수 없다면, 아무리 문장이 유려하고 참고문헌 목록이 길어도 그 논문은 학술적 정직성의 최소선을 충족했다고 보기 어렵다.

존재하지 않는 논문이 인용되는 시대에 학술의 양심은 거창한 기술 담론이 아니라 작은 확인에서 시작된다. 인용한 문헌을 읽는 것. 읽지 않았다면 읽지 않았다고 밝히는 것. 실제로 존재하는 문헌인지 확인하는 것. 자신의 주장과 문헌의 관계를 정직하게 설명하는 것. 이것이 AI 시대에도 변하지 않는 연구자의 기본 책임이다.

#허위인용 #AI유령인용 #가짜참고문헌 #존재하지않는논문 #참고문헌검증 #연구윤리 #학술신뢰 #논문윤리 #생성형AI #스포트라이트유

Social Share