llama.cpp, 에이전트 워크플로우용 체크포인트 버그 수정
llama.cpp Agentic Workflows Ctx Checkpoints Fix
·2026.07.13 08:03
핵심 내용
llama.cpp가 에이전트 작업 시 컨텍스트 체크포인트가 과도하게 생성되어 성능이 저하되던 버그를 수정했습니다.
자세히 보기
llama.cpp의 최신 업데이트(b9978)를 통해 에이전트 워크플로우(Agentic Workflows) 수행 시 발생하는 컨텍스트 체크포인트 관련 버그가 해결되었습니다.
기존에는 에이전트가 한 턴을 수행할 때마다 새로운 체크포인트를 생성하여, 최소 단계 간격(min-step spacing) 설정을 우회하는 문제가 있었습니다. 이로 인해 체크포인트가 너무 촘촘하게 생성되어 컨텍스트 윈도우가 급격히 좁아졌고, 도구 호출(tool-calling) 루프 중 컨텍스트를 되돌릴 때 모든 체크포인트가 삭제되어 전체 프로세스를 다시 실행해야 하는 비효율이 발생했습니다.
이번 수정으로 인해 이전 작업의 체크포인트가 적절히 교체(eviction)되도록 개선되었으며, 이를 통해 긴 에이전트 세션에서도 컨텍스트 윈도우를 넓게 유지하며 빠른 추론 속도를 보장할 수 있게 되었습니다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.