모델 규모별 에이전트 메모리 최적화 전략

ALTK-Evolve는 에이전트가 과거의 실행 궤적(trajectory)에서 재사용 가능한 가이드라인을 추출하고, 이를 추론 시점에 다시 주입하는 기술이다. 모델의 가중치를 업데이트하지 않고도 학습 효과를 낼 수 있어 비용 효율적이다.

연구 결과, 모델의 성능에 따라 최적의 메모리 '용량'이 다르다는 것이 확인되었다:

• 강력한 모델 (DeepSeek-V3.2 등): 모든 가이드라인을 주입했을 때 성능이 향상된다. 복잡한 예외 상황까지 흡수할 수 있는 능력이 있기 때문이다.
• 규모가 작거나 약한 모델 (gpt-oss-120b 등): 너무 많은 가이드라인은 오히려 방해가 된다. 핵심 가이드라인과 작업 관련 가이드라인을 선별하여 제공(Curated Retrieval)하는 것이 가장 효과적이다.
• 포화된 모델 (GLM-5 등): 가이드라인 주입에 따른 성능 향상이 거의 나타나지 않는다.

이 방식은 모델의 가중치를 변경하지 않고 컨텍스트 내의 가이드라인만 조절하므로, 다양한 모델에 저렴하고 빠르게 적용할 수 있는 장점이 있다.