Ernst & Young, 환각(Hallucination)으로 가득 찬 사이버 보안 보고서 발표

GPTZero의 조사 결과, EY Canada가 발행한 사이버 보안 보고서 **'Points of Attack'**이 LLM의 환각 현상으로 인해 심각하게 오염된 것으로 드러났다.

주요 문제는 다음과 같다:

• 가짜 인용(Vibe Citing): 보고서에 포함된 리소스 테이블의 URL 대부분이 유효하지 않거나 가짜이며, 출처 제목의 절반 이상이 실제 존재하지 않는 자료다.
• AI 생성 흔적: 텍스트 분석 결과 AI가 생성한 것으로 판단되며, 가짜 통계, 잘못된 인용, 내부적 모순 등 전형적인 LLM 오류가 다수 포함되어 있다.

GPTZero는 이러한 'vibe citing' 현상이 컨설팅 기업을 넘어 NeurIPS, ICLR과 같은 권위 있는 AI 학회에서도 관찰되고 있다고 경고했다. 이는 잘못된 정보가 뉴스, 블로그, AI 검색 엔진을 통해 확산되며 연구 품질과 공공의 신뢰를 무너뜨리는 심각한 위협이 되고 있다.