llama.cpp 네이티브 도구 지원
llama.cpp server have built-in native tools (exec_shell, edit_file, etc.)
·2026.05.24 07:48
llama.cpp 서버가 파일 조작 및 셸 명령 실행을 포함한 네이티브 도구 호출 기능을 지원한다.
llama.cpp의 llama-server에 실험적 플래그인 --tools가 추가되어, 별도의 미들웨어 없이도 모델이 직접 도구를 사용할 수 있는 환경을 제공한다.
지원되는 주요 도구는 다음과 같다:
- 파일 조작:
read_file,write_file,edit_file,apply_diff,file_glob_search - 시스템 및 검색:
exec_shell_command,grep_search,get_datetime
이 기능은 MCP(Model Context Protocol)나 무거운 래퍼(wrapper) 없이도 llama-server를 미니 에이전트 하네스로 활용할 수 있게 한다.
다만, 현재 보안 샌드박싱(Sandboxing) 기능이 구현되지 않아 파일 작업이 서버 시작 폴더를 기준으로 수행되며, 허용된 명령 목록(whitelist) 등의 제한이 없다. 따라서 실제 배포 시에는 보안에 각별한 주의가 필요하다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.