의료 가이드라인에 AI 가짜 인용 포함 확인

AI가 생성한 허위 인용(hallucination)이 학생들의 에세이를 넘어, 실제 의사들의 임상 지침을 결정하는 전문 의료 학술지까지 침투하고 있다.

최근 국제 연구팀의 분석 결과, 최소 28개의 완전히 조작된 참고문헌이 발견되었다. 이 가짜 데이터들은 동료 검토(peer review) 과정을 통과하여, 실제 의료 현장에서 사용되는 공식 임상 권고안의 기초가 되는 저널에 게재되었다.

이러한 현상은 다음과 같은 심각한 문제를 야기한다:

• 의료 결정 위험 증가: 잘못된 근거에 기반한 임상 지침은 환자 치료에 직접적인 악영향을 미칠 수 있음.
• 학술적 신뢰도 저하: 전통적인 동료 검토 시스템의 검증 능력을 약화시킴.
• 검증 체계의 필요성: AI 생성 텍스트를 걸러내기 위한 새로운 필터링 기술과 검증 체계 마련이 시급함.

현재 AI 모델 개발사들도 이러한 환각 문제를 완전히 해결하지 못하고 있어, 고도의 전문성이 요구되는 분야에서의 LLM 활용에 대한 경각심이 높아지고 있다.