Ernst & Young, 환각(Hallucination)으로 가득 찬 사이버 보안 보고서 발표
·2026.05.31 04:02
EY의 사이버 보안 보고서에서 다수의 가짜 인용과 통계 등 LLM 환각 현상이 발견되었다.
GPTZero의 조사 결과, EY Canada가 발행한 사이버 보안 보고서 **'Points of Attack'**이 LLM의 환각 현상으로 인해 심각하게 오염된 것으로 드러났다.
주요 문제는 다음과 같다:
- 가짜 인용(Vibe Citing): 보고서에 포함된 리소스 테이블의 URL 대부분이 유효하지 않거나 가짜이며, 출처 제목의 절반 이상이 실제 존재하지 않는 자료다.
- AI 생성 흔적: 텍스트 분석 결과 AI가 생성한 것으로 판단되며, 가짜 통계, 잘못된 인용, 내부적 모순 등 전형적인 LLM 오류가 다수 포함되어 있다.
GPTZero는 이러한 'vibe citing' 현상이 컨설팅 기업을 넘어 NeurIPS, ICLR과 같은 권위 있는 AI 학회에서도 관찰되고 있다고 경고했다. 이는 잘못된 정보가 뉴스, 블로그, AI 검색 엔진을 통해 확산되며 연구 품질과 공공의 신뢰를 무너뜨리는 심각한 위협이 되고 있다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.
