검증되지 않은
근거의 시대
AI와 함께 쓰는 시대에도 논문의 책임은 저자에게 남는다 — 내용에 대한 자기 확신, 인용 자료의 실재성 확인. AI 허위 인용 문제의 현황과, 저자가 지켜야 할 최소한의 저지선을 정리했다.
핵심 요약
생성형 AI는 실제 데이터베이스를 조회하지 않고 학습된 언어 패턴으로 그럴듯한 문장을 만든다. 그 결과 존재하지 않는 논문, 조작된 참고문헌, 왜곡된 판례가 학술 출판물에서 실제로 적발되고 있다. 그렇다고 “AI를 쓰지 말자”는 결론은 현실적이지 않다 — 연구와 집필에서 AI 활용은 이미 대세이자 현실이다. 달라지지 않는 것은 하나다. 논문과 출판물에 대한 책임은 여전히 저자에게 있다. 내용에 대한 자기 확신, 그리고 인용 자료의 실재성 확인 — 이것이 저자가 지켜야 할 최소한의 저지선이다.
3 Key Findings
학술 논문 100여 건에서 허위 인용이 적발됐고, 법정에서는 존재하지 않는 판례 인용으로 변호사가 제재를 받았다. 허위 인용은 재인용을 거쳐 가짜 권위가 되어 학술 신뢰 자체를 잠식한다 — 개별 실수가 아니라 구조적 현상이다.
문헌 탐색·초안·번역에서 AI의 도움은 이미 표준적 관행이 됐다. 그러나 허위 인용 생성률은 모델에 따라 14%에서 95%까지 벌어지고 0인 모델은 없다. 위험한 것은 AI 사용 자체가 아니라, 검증 없이 인용을 옮겨 적는 관행이다.
국제 출판 규범(ICMJE·COPE)은 AI를 저자로 인정하지 않는다. AI가 만든 내용도 논문에 실리는 순간 전부 저자의 책임이다. 내용은 스스로 설명·방어할 수 있어야 하고, 인용은 실재를 확인해야 한다.
이번 호가 다루는 것
신뢰의 위기: 허위 인용이 남기는 것
학문은 인용으로 축적된다. 한 논문이 선행연구 위에 주장을 세우고, 후속 연구가 다시 그것을 근거로 삼는다. 그래서 참고문헌이 허위이거나 원문 취지가 왜곡되면, 무너지는 것은 각주 하나가 아니라 “근거를 신뢰한다”는 학술의 약속이다. 문제의 뿌리는 혼동이다 — AI가 그럴듯한 근거를 제시하면 우리는 “존재하지 않는다”가 아니라 “내가 못 찾는 것일 수 있다”고 받아들인다.
다섯 갈래의 유령 인용
① 완전 조작형 — 저자·제목·DOI를 통째로 지어낸다.
② 부분 속성 변조형 — 실재 논문의 연도·페이지가 바뀐다.
③ 식별자 하이재킹형 — 실제 DOI를 엉뚱한 문헌에 붙인다.
④ 플레이스홀더 환각형 — 초안의 임시 인용이 남는다.
⑤ 의미론적 환각형 — 문헌은 실재하나 취지가 어긋난다.
‘좋은 도구’라는 안전 신화
허위 인용은 도구를 잘 고르면 사라지는 문제가 아니다. 대규모 분석에서 인용 허위 생성률은 모델에 따라 14%에서 95%까지 벌어졌다. 대체로 고성능(주로 유료) 모델일수록 낮고 경량·무료 모델일수록 높은 경향이지만, 온라인 검색·사고사슬 같은 보정도 일관된 효과를 주지 못했다. 결론은 하나다 — 완전히 면역인 모델은 없다.
“존재하지 않던 문헌이 재인용을 거쳐 학술 권위가 된다. 그 순간 무너지는 것은 신뢰다.”
허위 인용이 한 번 논문에 들어가면 후속 연구자가 원문 확인 없이 재인용한다. 반복되면 실재 여부와 무관하게 “이미 언급된 근거”처럼 작동한다. 연구자의 성실성에만 의존해서는, 확증편향·전문성 한계·접근 제약·검증 비용이 결합된 이 구조적 통과를 막을 수 없다.
그래서 필요한 최소한의 원칙 — “적어도 인용이 실재하는지는 확인한다.” 이것이 양심의 저지선이다.
AI와 함께 써도 이름은 하나다
문헌 탐색, 요약, 초안 작성, 번역, 교정 — 연구의 거의 모든 단계에서 AI의 도움은 이미 일상이 됐다. 이 흐름은 되돌릴 수 없고, 되돌릴 이유도 없다. 그러나 국제 출판 규범의 결론은 일치한다. ICMJE와 COPE는 AI를 저자로 인정하지 않는다. 저자됨(authorship)의 핵심이 결과물에 책임질 수 있는 능력이기 때문이다. 따라서 AI가 만든 문장과 근거도 논문에 실리는 순간 전부 저자의 것이 된다. 그 책임은 두 가지로 요약된다.
논문의 모든 주장과 논증을 저자 스스로 설명하고 방어할 수 있어야 한다. AI가 쓴 문장이라도 저자가 이해하지 못한 채 실었다면, 그것은 저자의 글이 아니라 서명만 한 글이다.
① 문헌이 실제로 존재하는가 ② 저자·연도·DOI 등 서지 속성이 맞는가 ③ 원문이 본문의 주장을 실제로 뒷받침하는가. 실재 여부의 확인은 도구의 도움으로 몇 분이면 가능하다.
“AI는 저자가 될 수 없다. 그 이유가 곧 저자의 정의다 — 결과에 책임질 수 있는 사람.”
이 두 가지는 규제가 아니라 저자 자신을 지키는 장치다. 허위 인용 한 건이 발견되는 순간 의심받는 것은 그 각주 하나가 아니라 논문 전체, 나아가 저자의 이력 전체다. 반대로 실재성 확인이라는 습관 하나가 그 위험의 대부분을 차단한다.
최소한의 저지선
“모든 인용의 취지까지 검증하라는 것이 아니다. 적어도 그 인용이 실재하는지는 확인하자 — 그것이 연구자가 지킬 양심의 최소선이다.”
AI로 얻은 참고문헌은 제출 전 실재 여부를 확인한다. 도구가 무료든 유료든, 이 한 줄의 원칙은 동일하게 적용된다.
AI가 쓴 초안이라도 최종 원고의 모든 문장은 저자가 설명할 수 있어야 한다. 이해하지 못한 문장, 확인하지 못한 근거는 싣지 않는 것이 원칙이다.
실재성 확인은 자동화할 수 있고, 이미 쓸 수 있는 도구가 있다. 다만 도구는 존재를 확인할 뿐 — 인용의 의미를 읽고 책임지는 일은 언제나 저자의 몫이다.
스포트라이트유 참고문헌 검증 — 학술 신뢰의 보호와 양심적 저지선을 지키는 데 도움이 되고자 만든 실재성 확인 시스템이다. 단건 검증·학술자료 검색은 무료로 열려 있다. 사용 가이드 → 부록 A
부록 A · 사용 가이드
스포트라이트유 참고문헌 검증 시스템(spotlightuniv.com)은 CrossRef·OpenAlex 등 학술 DB를 병렬 조회해 인용의 실재 여부를 대조한다. LLM을 쓰지 않는 결정론적 대조 방식 — ‘그럴듯한 답변’이 아니라 서지 데이터베이스의 실제 레코드가 판정 근거다.
기능 한눈에 · 단건 검증과 학술자료 검색은 무료
| 기능 | 이렇게 쓴다 | 결과 |
|---|---|---|
| 단건 검증 | DOI·제목·인용문구 1건 입력 | 4색 판정 + 매칭 서지정보 |
| 학술자료 검색 | 주제어 검색 | 실재 문헌 목록(DOI·초록·피인용) |
| PDF 일괄 검증 | 논문 PDF 업로드 → 참고문헌 자동 추출 | 항목별 판정표 + 리포트(PDF) |
| 법률·판례 | 사건번호·판례 표기 입력 | 판례 실재·표기 확인 |
1 · 초안 완성 후 참고문헌 목록을 확정한다.
2 · 단건 검증(소량) 또는 PDF 일괄 검증(논문 단위)을 실행한다.
3 · YELLOW·RED·GRAY 항목은 원문을 직접 확인해 수정·소명한다. GREEN이라도 주장–근거 정합성 확인은 저자의 몫이다.
이 도구는 참고문헌 메타데이터의 실재성 점검 보조도구이며, 연구부정·진위 판정 도구가 아니다. 자동 판정은 실재성·속성 일치까지만 하며, 주장–근거 정합성 판단과 최종 책임은 언제나 저자에게 있다.
부록 B · 출처
분석 방법 · METHODOLOGY
본 이슈페이퍼는 생성형 AI 환각 인용에 관한 공개 연구·보도와 국제 출판 규범(ICMJE·COPE)의 저자 책임 원칙에 근거해 작성했다. 모델별 허위 생성률(14–95%)은 GhostCite 분석을 인용한 것으로, 특정 벤치마크 조건의 값이며 실제 사용 맥락에 따라 달라질 수 있다. 부록 A의 도구 정보는 2026년 7월 개발 스냅샷 기준이며, 구현된 기능만 기재했다.
주요 참고자료 · SOURCES
각주 · NOTES
① 모델별 허위율은 특정 벤치마크 조건의 값으로, 실제 사용 맥락에 따라 달라질 수 있다. 다만 어떤 모델도 0%가 아니라는 결론은 견고하다.
② 부록 A의 도구는 실재성·속성 일치(1·2단계)만 자동 점검하며, 주장–근거 정합성은 판정하지 않는다.
③ DB 미조회 자료는 ‘부존재’로 단정하지 않고 회색(소명 대상)으로 분류한다.
스포트라이트유는 대학·고등교육·입시·대학정책을 데이터로 조명하는 교육 전문 미디어입니다. 문의 · issue@spotlightuniv.com
AI와 함께 쓰는 시대에도 논문의 책임은 저자에게 있다 — 내용에 대한 자기 확신과 인용 실재성 확인이 최소한의 저지선이다.
답글 남기기