llama.cpp, 에이전트 워크플로우용 체크포인트 버그 수정
llama.cpp Agentic Workflows Ctx Checkpoints Fix
·2026.07.13 08:03
llama.cpp가 에이전트 작업 시 컨텍스트 체크포인트가 과도하게 생성되어 성능이 저하되던 버그를 수정했습니다.
llama.cpp의 최신 업데이트(b9978)를 통해 에이전트 워크플로우(Agentic Workflows) 수행 시 발생하는 컨텍스트 체크포인트 관련 버그가 해결되었습니다.
기존에는 에이전트가 한 턴을 수행할 때마다 새로운 체크포인트를 생성하여, 최소 단계 간격(min-step spacing) 설정을 우회하는 문제가 있었습니다. 이로 인해 체크포인트가 너무 촘촘하게 생성되어 컨텍스트 윈도우가 급격히 좁아졌고, 도구 호출(tool-calling) 루프 중 컨텍스트를 되돌릴 때 모든 체크포인트가 삭제되어 전체 프로세스를 다시 실행해야 하는 비효율이 발생했습니다.
이번 수정으로 인해 이전 작업의 체크포인트가 적절히 교체(eviction)되도록 개선되었으며, 이를 통해 긴 에이전트 세션에서도 컨텍스트 윈도우를 넓게 유지하며 빠른 추론 속도를 보장할 수 있게 되었습니다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.