LLM 시맨틱 캐시, 검증 로직이 보증 무너뜨리는 '셀프셀렉션' 현상 확인

LLM 시맨틱 캐시에 Conformal Risk Control(CRC)을 적용해 오답률을 설정된 예산(예: 2%) 이하로 유지하는 분포 무관(distribution-free) 정형 보증을 구현했으나, 캐시 운영 자체가 이 보증을 깨뜨리는 '셀프셀렉션(self-selection)' 현상을 발견했다.

셀프셀렉션의 메커니즘

기존 검증은 캘리브레이션 데이터와 미래 트래픽의 교환 가능성(exchangeability)을 가정하지만, 실제 배포된 캐시는 검증기의 accept/reject 결정이 향후 캐시 기록과 매칭 대상을 변경한다. 즉, 캘리브레이션 데이터가 시스템의 과거 선택에 의해 형성되므로 가정된 분포와 실제 운영 분포가 괴리된다.

실험 결과 및 영향

동일 레코드 스트림에서 3가지 레짐(Baseline, Self-select, Self-select-recal)을 비교한 결과, 중복 쿼리 비율이 높을수록 리스크가 단조 증가했다.

• Quora (직접 히트율 3.7%): 캐시 5% 축소, 실현 리스크 변화 없음.
• SearchQueries (직접 히트율 28.1%): 캐시 31% 축소, 오답률 통계적으로 유의미한 증가.
• LmArena (직접 히트율 72.8%): 캐시 77% 축소, 원본 보증 대비 실현 리스크 3배 이상 증가.

교정 한계와 근본 원인

온라인 재계산(recalibration)은 Quora와 SearchQueries에서는 성능을 보상했지만, LmArena에서는 격차를 완전히 해소하지 못했다. LmArena의 경우 인기 있는 정답이 반복적으로 재사용되며 캐시에서 밀려나는 'crowding-out' 현상이 주요 원인(오답의 약 69%)으로 지목되었다. 히트 시 쓰기 확률(p)을 높이는 부분적 해결책은 p=0.75에서도 잔여 해가 통계적으로 유의미하게 남아, 쓰기 효율성을 포기해야만 격차를 좁힐 수 있음을 시사한다.

결론적으로, 수학적으로 올바른 통계적 보증이 영구적인 프로덕션 안전성을 보장하지 않으며, 시스템이 정상 작동하면서 자신의 입력 데이터를 변경하는 피드백 루프가 주요 위험 요소로 부상한다.