AI 활용 금지보다 중요한 것은 검증 가능한 인용과 인간 연구자의 책임이다

생성형 AI는 학술 글쓰기의 조건을 바꾸고 있다. 연구자는 AI를 활용해 논문 초안을 정리하고, 문헌 검토의 방향을 잡고, 문장을 다듬고, 번역과 요약을 수행할 수 있다. 대학원생은 낯선 주제에 접근할 때 AI를 참고할 수 있고, 연구자는 반복적인 문서 작업의 시간을 줄일 수 있다. AI는 이미 연구 현장의 바깥에 있는 기술이 아니다. 연구자의 책상 위에, 글쓰기 과정 안에, 학술 출판의 흐름 속에 들어와 있다.

그러나 기술이 글을 더 쉽게 만들어준다고 해서 연구의 책임이 가벼워지는 것은 아니다. 오히려 반대다. AI가 더 빠르게, 더 자연스럽게, 더 그럴듯하게 문장을 만들어낼수록 연구자는 더 분명하게 물어야 한다. 이 문장은 무엇을 근거로 하는가. 인용된 문헌은 실제로 존재하는가. 나는 그 문헌을 읽었는가. 그 문헌을 이해했는가. 그 문헌은 내 주장을 실제로 뒷받침하는가.

허위 인용의 시대에 연구윤리의 최소선은 거창한 선언이 아니다. 읽고, 이해하고, 확인하는 것이다. 연구자는 자신이 인용한 문헌을 읽어야 한다. 읽은 문헌의 내용을 자신의 논지 안에서 이해해야 한다. 그리고 그 문헌이 실제로 존재하며, 서지 정보가 정확하고, 본문 주장을 뒷받침하는지 확인해야 한다. 이 단순한 원칙이 AI 시대 학술윤리의 출발점이 되어야 한다.

AI 사용을 둘러싼 논의는 종종 금지와 허용의 문제로 흐른다. AI를 쓰면 안 되는가. 어디까지 써도 되는가. 사용 사실을 밝혀야 하는가. 이런 질문은 필요하다. 그러나 그것만으로는 충분하지 않다. AI를 전면 금지한다고 해서 허위 인용 문제가 사라지는 것은 아니다. 읽지 않은 문헌을 인용하는 관행, 원문 확인 없이 2차 인용을 반복하는 습관, 제목과 초록만 보고 문헌의 의미를 추정하는 부주의는 AI 이전에도 존재했다. AI는 이 문제를 새로 만든 것이 아니라 더 빠르고 더 그럴듯하게 증폭시켰다.

따라서 핵심은 AI 사용 여부 그 자체가 아니라 검증 가능성이다. 연구자가 AI를 활용했더라도, 최종 원고에 들어간 문장과 인용, 참고문헌의 책임은 연구자에게 있다. 반대로 AI를 사용하지 않았더라도, 인용문헌을 확인하지 않았고, 읽지 않은 문헌을 근거처럼 제시했으며, 존재하지 않는 논문을 참고문헌에 올렸다면 학술적으로 정직하다고 말하기 어렵다. AI 시대 연구윤리는 기술 사용 여부를 묻는 데서 멈추지 않고, 근거에 대한 인간 연구자의 책임을 물어야 한다.

국제 학술출판계의 권고도 이 방향을 가리킨다. 국제 의학학술지 편집인위원회(ICMJE)는 AI 보조 기술을 사용한 경우 저자가 이를 공개해야 하며, AI 도구는 정확성·무결성·독창성에 책임질 수 없기 때문에 저자나 공저자로 등재될 수 없다고 안내한다. 또한 인간 저자가 AI 생성 결과물을 신중하게 검토하고 수정해야 하며, 인용과 참고문헌의 적절성을 보장해야 한다고 설명한다. 이 원칙은 분명하다. AI는 도구일 수 있지만, 책임 주체는 사람이 되어야 한다.

광고

출판윤리위원회(COPE) 역시 AI 도구를 논문의 저자로 등재할 수 없다는 입장을 제시한다. AI 도구는 연구의 진실성에 대한 책임을 질 수 없고, 이해상충을 선언할 수도 없으며, 저작권과 라이선스 계약을 관리할 수도 없기 때문이다.세계의학편집인협회(WAME)도 챗봇과 생성형 AI를 활용한 학술 원고에서 인간 저자가 내용의 정확성, 출처 표시, 표절 여부에 책임져야 한다고 권고한다.서로 다른 기관의 권고가 공통적으로 강조하는 것은 같다. AI는 책임질 수 없고, 연구자는 책임져야 한다는 것이다.

이 원칙은 참고문헌 문제에서 더욱 중요하다. AI가 제시한 참고문헌이 실제로 존재하지 않을 수 있다는 사실은 이미 여러 사례와 연구를 통해 확인되고 있다. 문제는 AI가 틀릴 수 있다는 데 그치지 않는다. AI는 틀린 근거를 실제 학술문헌처럼 보이게 만들 수 있다. 제목, 저자명, 학술지명, 출판연도, 권호, 페이지, DOI 형식까지 갖춘 허위 문헌은 겉으로 보기에는 상당히 그럴듯하다. 그래서 더 위험하다. 허술한 오류는 눈에 띄지만, 정돈된 허위는 쉽게 통과된다.

그렇다면 대학은 무엇을 해야 하는가. 첫째, 대학은 AI 사용을 금지하는 방식만으로 연구윤리를 관리할 수 없다는 사실을 인정해야 한다. AI 사용 금지는 명확해 보이지만 현실적인 해결책이 되기 어렵다. 학생과 연구자는 이미 AI를 사용하고 있고, 앞으로도 사용할 가능성이 높다. 중요한 것은 AI 사용을 숨기게 만드는 것이 아니라, 사용한 결과물을 어떻게 검증하고 책임지게 할 것인가이다.

둘째, 대학은 연구윤리 교육의 내용을 바꾸어야 한다. 지금까지 많은 연구윤리 교육은 표절 예방, 인용 형식, 연구부정 사례, IRB, 데이터 관리, 부당 저자 표시 등을 중심으로 이루어졌다. 이 내용은 여전히 중요하다. 그러나 AI 시대에는 여기에 인용문헌의 실재성 확인, AI 생성 참고문헌의 검증, 2차 인용의 한계, 원문 확인의 중요성, DOI와 학술 DB 대조 방법이 포함되어야 한다. 학생에게 참고문헌 양식을 맞추는 법만 가르치는 것으로는 부족하다. 왜 그 문헌을 인용해야 하는지, 그 문헌을 어떻게 확인해야 하는지, 읽지 않은 문헌을 어떻게 처리해야 하는지를 가르쳐야 한다.

셋째, 대학은 학위논문과 연구보고서 제출 절차에서 참고문헌 확인을 품질관리의 일부로 다루어야 한다. 모든 참고문헌을 행정적으로 검증하자는 뜻은 아니다. 그러나 최소한 핵심 주장과 직접 연결된 문헌, AI가 제시한 문헌, DOI나 학술지 정보가 불명확한 문헌, 검색이 잘 되지 않는 문헌은 연구자가 직접 확인했다는 절차가 필요하다. 학위논문 제출 전 유사도 검사 결과를 확인하듯, 참고문헌의 실재성과 핵심 인용의 적합성도 연구자가 스스로 점검하도록 해야 한다.

넷째, 대학원 교육은 ‘문헌을 많이 찾는 법’에서 ‘문헌을 책임 있게 읽는 법’으로 확장되어야 한다. AI 시대에는 문헌 목록을 만드는 일 자체는 점점 쉬워질 수 있다. 그러나 목록을 만드는 능력과 문헌을 이해하는 능력은 다르다. 연구자는 검색된 문헌, AI가 제시한 문헌, 다른 논문에서 재인용된 문헌을 자신의 연구 안에서 어떻게 판단할지 배워야 한다. 어떤 문헌은 핵심 근거가 되고, 어떤 문헌은 배경 설명에 그치며, 어떤 문헌은 자신의 주장과 맞지 않아 제외해야 한다. 이 판단 능력이 연구자의 학술적 역량이다.

학술지와 편집위원회도 역할이 있다. 학술지 심사는 본문 논리, 연구방법, 자료 분석, 학문적 기여를 중심으로 이루어진다. 심사자가 모든 참고문헌을 하나씩 검색하고 원문까지 확인하는 것은 현실적으로 어렵다. 그러나 AI 시대에는 참고문헌을 단순한 형식 목록으로만 다루기 어렵다. 핵심 주장에 붙은 문헌, 낯선 학술지, DOI가 불명확한 문헌, 본문 주장과 직접 관련성이 약해 보이는 문헌은 심사 과정에서 더 주의 깊게 검토될 필요가 있다.

학술지의 저자 지침도 바뀌어야 한다. AI 사용 여부를 밝히라는 문구만으로는 충분하지 않다. AI를 활용해 문헌 검토, 참고문헌 생성, 초록 작성, 번역, 요약을 수행한 경우 저자가 어떤 방식으로 결과물을 검토했는지 명시하도록 할 수 있다. AI가 생성한 참고문헌은 원문 확인을 거쳐야 하며, 확인하지 못한 문헌은 인용해서는 안 된다는 원칙을 분명히 해야 한다. AI가 제공한 정보를 1차 출처처럼 인용하는 것도 피해야 한다.

연구자 개인의 책임도 더 무거워진다. AI 시대의 연구자는 더 많은 자료를 더 빠르게 접할 수 있지만, 그만큼 더 많은 확인의 책임을 진다. AI가 문헌 목록을 제시하면 그것은 참고문헌이 아니라 후보 목록이다. 학술 DB에서 확인하고, DOI를 대조하고, 저자와 학술지명과 연도를 살피고, 원문을 읽어 자신의 논지와의 관계를 판단해야 비로소 인용문헌이 된다. AI가 만들어준 목록을 그대로 붙이는 것은 연구가 아니라 대리된 외형을 가져오는 일에 가깝다.

여기서 중요한 것은 연구자의 양심을 기술로 대체할 수 없다는 점이다. 어떤 검증 도구도 문헌의 의미를 대신 읽어주지는 못한다. 데이터베이스는 문헌이 존재하는지, DOI와 제목이 일치하는지, 저자와 연도가 맞는지 확인하는 데 도움을 줄 수 있다. 그러나 그 문헌이 본문 주장을 실제로 뒷받침하는지, 저자가 문헌의 한계와 맥락을 이해했는지, 연구자의 논지 안에서 정당하게 사용되었는지는 사람이 판단해야 한다. 기술은 확인을 돕지만, 양심을 대신하지 못한다.

따라서 AI 시대 연구윤리의 최소선은 세 단계로 정리할 수 있다. 첫째, 읽어야 한다. 핵심 인용문헌은 원문을 직접 확인해야 한다. 둘째, 이해해야 한다. 문헌의 제목이나 초록만이 아니라 연구문제, 방법, 결과, 한계, 자신의 연구와의 관련성을 파악해야 한다. 셋째, 확인해야 한다. 문헌이 실제로 존재하는지, 서지 정보가 정확한지, DOI가 해당 문헌을 가리키는지, 본문 주장을 뒷받침하는지 확인해야 한다.

이 세 가지는 특별한 연구자에게만 요구되는 높은 기준이 아니다. 논문을 쓰는 사람이 지켜야 할 최소한의 기준이다. 읽지 않은 문헌을 읽은 것처럼 인용하지 않는 것. 존재 여부를 확인하지 않은 문헌을 근거로 제시하지 않는 것. 원문을 보지 않았다면 2차 인용임을 밝히는 것. 본문 주장과 무관한 문헌을 권위처럼 붙이지 않는 것. AI가 제시한 참고문헌을 검증 없이 사용하지 않는 것. 이것이 학술적 양심의 기본이다.

UNESCO는 생성형 AI의 교육·연구 활용과 관련해 각국이 즉각적인 조치와 장기 정책을 함께 마련할 필요가 있다고 설명한다.이 관점은 대학에도 적용된다. 대학은 AI를 둘러싼 일회성 대응을 넘어, 연구윤리 교육, 교수자 지침, 학위논문 제출 절차, 학술지 투고 지침, 데이터와 참고문헌 검증 절차를 종합적으로 설계해야 한다. AI 시대의 연구윤리는 개인의 선언만으로 유지되지 않는다. 교육과 제도, 기술과 문화가 함께 작동해야 한다.

그러나 제도가 아무리 정교해져도 마지막 책임은 연구자에게 남는다. 논문의 저자는 AI가 아니다. 데이터베이스도 아니다. 표절검사 프로그램도 아니다. 검증 도구도 아니다. 논문의 저자는 사람이며, 사람만이 자신의 주장과 근거에 대해 책임질 수 있다. AI 시대 연구윤리가 결국 인간 저자의 책임으로 돌아오는 이유가 여기에 있다.

허위 인용은 학술 생태계의 외부 공격이 아니다. 그것은 학술 내부의 신뢰를 약화시키는 문제다. 독자는 논문을 읽을 때 참고문헌을 통해 저자의 주장을 검증할 수 있어야 한다. 심사자는 참고문헌을 통해 논문의 학문적 위치를 판단할 수 있어야 한다. 후속 연구자는 인용된 문헌을 따라가며 새로운 연구를 시작할 수 있어야 한다. 인용문헌이 실제로 존재하지 않거나, 읽히지 않았거나, 본문 주장과 무관하다면 이 연결망은 약해진다.

학술은 신뢰 위에 서지만, 그 신뢰는 맹목적 믿음이 아니다. 확인 가능한 신뢰다. 누가 어떤 주장을 했는지 확인할 수 있어야 하고, 그 주장이 어떤 근거 위에 있는지 추적할 수 있어야 하며, 인용된 문헌을 다시 읽고 판단할 수 있어야 한다. 참고문헌은 이 검증 가능한 신뢰의 최소 단위다. 참고문헌이 무너지면 학술의 형식은 남아도 검증 가능성은 사라진다.

AI 시대의 대학은 이 문제를 연구윤리의 주변 항목으로 남겨두어서는 안 된다. 표절을 피하는 것만으로 충분하지 않다. 문장을 새롭게 쓰는 것만으로 충분하지 않다. 유사도 점수가 낮은 것만으로 충분하지 않다. 연구자는 자신이 기대고 있는 근거를 설명할 수 있어야 한다. 자신이 인용한 문헌을 읽고 이해했으며, 그 문헌이 실제로 존재하고, 자신의 주장을 뒷받침한다고 말할 수 있어야 한다.

결국 질문은 단순하다. 나는 내가 인용한 문헌을 읽었는가. 나는 그 문헌을 이해했는가. 나는 그 문헌이 실제로 존재하는지 확인했는가. 나는 그 문헌이 내 주장을 뒷받침한다고 책임 있게 말할 수 있는가. 이 질문 앞에서 연구자가 정직할 수 있을 때, AI 시대에도 학술의 신뢰는 유지될 수 있다.

허위 인용의 시대에 학술의 양심은 기술보다 먼저다. AI를 얼마나 잘 쓰는가보다 중요한 것은, AI가 만든 결과물을 얼마나 책임 있게 검토하는가이다. 연구윤리의 최소선은 멀리 있지 않다. 읽고, 이해하고, 확인하는 것. 그 기본으로 돌아가는 일이야말로 AI 시대 대학과 연구자가 다시 세워야 할 학술의 출발점이다.

#AI연구윤리 #허위인용 #참고문헌실재성 #인용윤리 #AI유령인용 #학술신뢰 #대학연구윤리 #생성형AI #학위논문 #학술지심사