LLM이 계속 갱신하면 유용한 기억도 망가진다

경험을 요약해 텍스트 기억으로 저장하고 나중에 다시 쓰는 LLM 에이전트의 지속 학습 레시피는 안정적으로 작동하지 않았다. 이 루프를 ALFWorld, ScienceWorld, WebShop, AppWorld, Mind2Web와 ARC-AGI 스트림에 돌려도, 기억은 누적되기보다 점점 망가졌다.

GPT-5.4는 정답 trajectory를 통합 루프에 흘린 뒤 ARC-AGI에서 무기억 상태로 풀던 문제의 **54%**를 다시 놓쳤다. 같은 trajectory pool도 통합 스케줄을 바꾸면 전혀 다른 기억이 나왔고, 문제는 데이터가 아니라 rewrite 단계에 있었다.

• ScienceWorld 15-task switch sequence에서는 현재 task만 통합하는 Fresh가 모든 과거 task를 함께 묶는 Cumulative보다 +203점 높았다.
• WebShop에서는 AWM이 8개 예시에서 0.64였지만 128개 예시에서는 0.20으로 내려가, 기억 없는 기준선 수준으로 수렴했다.
• 같은 trajectory pool을 GPT-5.4, Qwen3.5-27B, 9B, 4B로 계속 재통합하면 강한 초기 기억도 고정점이 되지 못하고 성능이 깎였다.

같은 데이터라도 스케줄이 달라지면 결과가 갈렸다. task family별로 묶는 Static-Group이 가장 낫고, 실제 상시 운영에 가까운 Stream이 가장 나빴다. 데이터는 같았으니 차이는 전적으로 통합 방식에서 생겼다.

원인은 세 가지였다. 강제 통합은 서로 다른 문제 계열을 한 엔트리에 섞어 넣고, abstraction은 적용 조건을 지워버리며, 좁은 스트림은 표면 규칙에 과적합했다. ARC-AGI Stream에서는 자율적으로 두면 6개 문제 유형별로 깔끔한 episodic store를 만들 수 있었지만, 그 상태에 도달하기까지 568개 예시가 필요했다.

이 결과는 Complementary Learning Systems가 원래 막으려던 간섭과 같다. 빠른 episodic store와 느린 schema store를 하나의 강제 rewrite 루프로 합치면, 기억은 축적되지 않고 서로를 오염시킨다. 반대로 abstraction을 끄고 원시 롤아웃을 선별적으로 보존·삭제하는 episodic-only 에이전트는, 실험한 모든 consolidator와 같거나 더 나은 성능을 냈다.

실전 예시도 비슷했다. 190번 통합 후 메모리 스토어에는 엔트리가 하나만 남았고, 그 기억은 검증용 작업을 10/10에서 0/10으로 망가뜨렸다. AWM에서는 8개였던 워크플로 템플릿이 epoch 3에 16개로 늘었지만 상당수는 기존 템플릿의 카테고리 변형에 불과했고, W8을 제거하자 gpt-5.4-mini는 7/50 → 14/50, gpt-5-mini는 18/50 → 23/50으로 올랐다. 결론은 분명하다. 큐레이션된 원시 증거를 잘 남기는 것은 중요하지만, LLM이 자기 기억을 계속 다시 쓰게 두는 것은 자기 개선 메커니즘이 아니다.