새 arXiv 정책: 환각 참고문헌에 1년 이용 금지 — 개발자가 알아야 할 핵심 정리

arXiv가 生成型 AI의 환각 참고문헌으로 인한 1년 이용 금지를 발표했습니다.

새 arXiv 정책: 환각 참고문헌에 1년 이용 금지 — 개발자와 연구자가 알아야 할 핵심 정리

2026년 5월, 학술 사전출판 서버 arXiv가 생성형인공지능의 무책임한 사용에 대한 단호한 입장을 발표했습니다. 논문에 환각 참고문헌이나 LLM 메타 코멘트가 포함된 것이 발견되면, 저자 전원은 1년간 arXiv 이용 금지를 받게 됩니다. 이후 재개고을 위해서는 반드시 권위 있는 동료심사 학술지에서 게재를 먼저 완료해야 합니다.

이 정책은 학술 출판의 무결성을 지키려는 강력한 조치로, 개발자와 연구자 모두에게 중요한 시사점을 제공합니다. 이 글에서 핵심 내용을 정리합니다.

---

배경: 왜 이런 정책이 등장했는가

생성형 AI가 학술 논문 작성에 널리 사용되면서, 관련 문제가 급격히 증가했습니다. Nature 보도에 따르면, 2025년 한 해 동안 네 가지 연구 저장소에서 14만 건 이상의 위조 인용이확인되었습니다. arXiv moderators인 Thomas Dietterich에 따르면, 학술 논문 속 환각 참고문헌 발생률이 2023년 이후 열 배 이상 급증했습니다.

이러한 상황에서 arXiv는 기존 행동강령을 명확히 하고, 제재 조치를 구체화하게 되었습니다.

---

핵심 정책 내용

저자의 책임

arXiv 행동강령명확규정: 논문 저자로 이름을 올린 사람은 내용 생성 방식과 무관하게 논문 전체에 대한 전적인 책임을 집니다. 생성형 AI가 만든 부적절한 언어, 표절, 편향, 오류, 잘못된 참고문헌이 논문에 포함되어도 책임은 저자에게 있습니다.

제재 조치

위반 사실이 확인되면:

1. 1년간 arXiv 이용 금지

2. 이후 제출물은 반드시 권위 있는 동료심사 학술 venue에서 먼저 수락되어야 함

명백한 증거의 예시

어떤 경우가 위반으로 판단되는지 구체적인 예시가 공개되었습니다:

• 환각 참고문헌: 실존하지 않는 논문을 마치 реаль인 것처럼 인용

• "실험의 실제 숫자로 채워라" 같은 LLM 메타 코멘트

• "here is a 200 word summary; would you like me to make any changes?" 같은 안내 문구

제류문본가 논문원고에 그대로 남아 있는 것은, 저자가 생성형 AI의 출력을 검증하지 않았다는 명백한 증거로 간주됩니다.

---

분야별 영향

이 정책은 분야마다 영향을 다르게 받을 전망입니다.

Astrophysics와 물리학

천체물리학과 물리학 분야에서는 arXiv 게재가 정규 출판 과정의 일부로 간주됩니다. 사전출판을 통해 동료들의 피드백을 받고, 이를 바탕으로 동료심사 논문을 개선하는 관행이 일반적입니다. 따라서 1년간의 이용 금지는 연구 프로세스에 상당한 차질을 초래할 수 있습니다.

사회과학

Nature 분석에 따르면, 환각 참고문헌은 사회과학 사전출판 사이트에서 가장 높은 비율로 나타났습니다. 이 분야 연구자들은 더욱 주의를 기울여야 합니다.

컴퓨터과학

ICLR 2026 제출 논문에서 50건 이상의 환각 사례가 발견된 것으로 전해졌습니다. CS 분야 역시 이 정책의 주요 대상임을 보여줍니다.

---

개발자와 연구자를 위한 실용적 조언

즉시 점검해야 할 사항

1. 참고문헌 검증: 인용하는 모든 논문이 실제로 존재하는지 확인합니다. DOI 또는 논문 제목으로 검증하는 습관을 들이세요.

2. LLM 출력물 검사: 생성형 AI로 작성한 논문 초안에서는 반드시 모든 메타 코멘트와 안내 문구를 제거해야 합니다.

3. 표 및 데이터 확인: "illustrative data"류형적 안내 문구가 남아 있지 않은지 꼼꼼히 확인합니다.

도구 활용

참고문헌 검증에 사용할 수 있는 무료 도구들이 있습니다:

• Zotero: URL, DOI, ISBN에서 인용 정보를 추출하고 BibTeX 파일을 생성

• zbib.org: 온라인 참고문헌 관리 도구

피해야 할 행동

• 생성형 AI에게 논문 초안을완고토 작성하게 하고, 검증 없이 제출하는 것

• 존재하지 않는 논문을 명시적으로 환각하여 인용하는 것

• AI의 출력을 복사붙여넣기한 후 원본 문구 그대로 두는 것

---

향후 전망

이 정책이 성공적으로 시행되기 위해서는 몇 가지 의문이 남아 있습니다:

1. 탐지 방법: 대규모로 환각 참고문헌을 자동으로 탐지할 수 있는 시스템이 필요한데, 현재로서는 수동 표본 검사가 주된 방법입니다.

2. "권위 있는 학술 venue" 기준: 어떤 학술지가 이 조건을 만족하는지에 대한 명확한 기준이 아직 공개되지 않았습니다.

3. 공동저자 추가 문제: 명시적 허락 없이 타인을 공동저자로 등록하는 사례에 대한 처리 방안도명확료되지 않았습니다.

그러나 정책의 방향성은 올바르다는 평가가 많습니다. 학술 문헌의 품질을 지키기 위해 저자의 책임을 강화하는 것은 불가피한 조치라는 것입니다.

---

핵심 요약

항목	내용
정책 발표일	2026년 5월 15일
적용 대상	환각 참고문헌 또는 LLM 메타 코멘트가 발견된 논문의 저자 전원
제재 내용	1년간 arXiv 이용 금지, 이후 동료심사 논문 필요
예시	환각 참고문헌, "실험의 실제 숫자로 채워라" 등의 안내 문구
배경	2023~2026년 사이 환각 참고문헌 10배 증가

생성형 AI가 학술 연구에 깊이염투된 지금, 이 정책은 연구자들에게 무검증 AI 출력을 그대로 제출하면 안 된다는 명확한 신호를 보내고 있습니다. 논문 작성 시 생성형 AI를 활용하되, 반드시 내용을 꼼꼼히 검증하는 것이 필수입니다.

---

📚 출처

• https://news.hada.io/topic?id=29535