Proof Before Reuse, 오염된 에이전트 스킬 0/30으로 차단
Proof Before Reuse: showing agents only what later sessions reproduced keeps a poisoned skill out of procedural memory [R]
·2026.10.19 01:14
핵심 내용
Proof Before Reuse 기법으로 Claude Haiku 5.5와 Sonnet 5.5 테스트에서 오염 노출을 0/30으로 차단했다.
자세히 보기
- Proof Before Reuse 기법은 오염된 스킬 노출을 0/30 세션으로 차단함, 단순 메모리는 3/30, 리플레이는 30/30임
- 두 개의 후속 세션에서 변경 사항이 재현되고 테스트를 통과해야만 스킬을 제공하며, 해당 세션에서 작성한 라인만 에이전트에 노출함
- Claude Haiku 5.5와 Sonnet 5.5를 사용하여 5개의 채점 세션당 187개의 행동 검사를 포함하는 숨겨진 검증자로 테스트함
- 기록된 편집의 리플레이는 모든 테스트가 통과된 30/30 리포지토리에서 오염을 재유입시켰으며, 단순 메모리는 3/30 세션에서 오염을 노출함
방법 및 결과
- 오염된 학습 세션(신규 파일, 관련 없는 라인, 융합된 라인) 이후 동일한 작업에서 3개의 깨끗한 세션을 진행함
- 라인 단위 필터링은 Proof Before Reuse 그룹에서 단계 단위 검사를 통과한 융합된 오염을 성공적으로 제거함
- 테스트 세션 중 모델이 본 오염을 적용한 사례가 없으므로, 연구는 해가 아닌 노출을 측정함
한계
- 각 셀당 n=5인 단일 작업 기반 결과로 p≈0.24이며 통계적으로 유의하지 않음
- 규칙은 동일한 작업에서 조정되었으며, 리포지토리에 직접 배치된 오염은 기법을 무력화함
- 코드 및 세션별 기록은 https://github.com/TheWariend/MuscleMemory에서 확인 가능함
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.