Proof Before Reuse, 오염된 에이전트 스킬 0/30으로 차단

Proof Before Reuse: showing agents only what later sessions reproduced keeps a poisoned skill out of procedural memory [R]

·2026.10.19 01:14

핵심 내용

Proof Before Reuse 기법으로 Claude Haiku 5.5와 Sonnet 5.5 테스트에서 오염 노출을 0/30으로 차단했다.

자세히 보기

  • Proof Before Reuse 기법은 오염된 스킬 노출을 0/30 세션으로 차단함, 단순 메모리는 3/30, 리플레이는 30/30임
  • 두 개의 후속 세션에서 변경 사항이 재현되고 테스트를 통과해야만 스킬을 제공하며, 해당 세션에서 작성한 라인만 에이전트에 노출함
  • Claude Haiku 5.5와 Sonnet 5.5를 사용하여 5개의 채점 세션당 187개의 행동 검사를 포함하는 숨겨진 검증자로 테스트함
  • 기록된 편집의 리플레이는 모든 테스트가 통과된 30/30 리포지토리에서 오염을 재유입시켰으며, 단순 메모리는 3/30 세션에서 오염을 노출함

방법 및 결과

  • 오염된 학습 세션(신규 파일, 관련 없는 라인, 융합된 라인) 이후 동일한 작업에서 3개의 깨끗한 세션을 진행함
  • 라인 단위 필터링은 Proof Before Reuse 그룹에서 단계 단위 검사를 통과한 융합된 오염을 성공적으로 제거함
  • 테스트 세션 중 모델이 본 오염을 적용한 사례가 없으므로, 연구는 해가 아닌 노출을 측정함

한계

  • 각 셀당 n=5인 단일 작업 기반 결과로 p≈0.24이며 통계적으로 유의하지 않음
  • 규칙은 동일한 작업에서 조정되었으며, 리포지토리에 직접 배치된 오염은 기법을 무력화함
  • 코드 및 세션별 기록은 https://github.com/TheWariend/MuscleMemory에서 확인 가능함

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.