AI 모델, 30% 확률로 잘못된 출처 인용

스탠퍼드 대학교 James Zou 교수 연구팀은 최신 AI 모델의 정보 검색 및 인용 정확도를 분석한 연구 결과를 발표했다.

GPT-4, Claude, Gemini 등 주요 모델을 대상으로 한 테스트 결과, RAG(검색 증강 생성) 시스템은 답변 자체는 약 85%의 높은 정확도를 유지했으나, 답변의 근거가 되는 출처를 인용할 때는 약 30%의 확률로 무관한 문서나 잘못된 소스를 지목했다.

이러한 현상은 텍스트 생성 능력과 실제 인용 능력 사이의 기술적 불일치를 보여준다. 특히 의료나 법률 등 정확한 근거 확인이 필수적인 분야에서 잘못된 정보가 확산될 위험을 높인다.

연구팀은 안전한 AI 배포를 위해 단순히 정답을 맞히는 것을 넘어, 인용의 정확성을 검증할 수 있는 새로운 기술적 표준이 시급하다고 강조했다.