에이전트 기반의 SGLang 개발 방식

SGLang 개발은 단순한 코드 수정을 넘어 LLM 서빙, 분산 런타임, GPU 커널, Diffusion 파이프라인 및 프로덕션 장애 대응까지 아우르는 복잡한 과정을 포함한다. 과거에는 이러한 워크플로우가 개발자의 개인적 경험과 기억에 의존했으나, 이제는 이를 실행 가능한 SKILL.md 파일과 스크립트로 변환하여 에이전트가 활용할 수 있도록 하고 있다.

현재 SGLang 생태계에서는 다음과 같은 에이전트용 스킬들이 구축되어 있다.

• .claude/skills: CUDA 크래시 디버깅, 커널 통합, CI, 프로파일링 등 저장소 수준의 개발 워크플로우 관리
• Diffusion 전용 스킬: 새로운 Diffusion 모델 추가, 디노이즈 경로 벤치마킹, 양자화 파이프라인 검증
• KDA-Pilot: KDA 스타일의 에이전트 커널 워크플로우를 SGLang에 적용하여 커널 작업 및 성능 향상 추적

에이전트의 진정한 가치는 실행 가능한 단계, 재현 가능한 실험, 검토 가능한 증거를 포함하는 **절차적 엔지니어링 지식(Procedural Engineering Knowledge)**에서 나온다. 특히 성능 최적화 작업은 벤치마킹, 프로파일링, 패치, 재검증이 반복되는 루프 엔지니어링(Loop Engineering) 단계로 진화하고 있다.

결과적으로 개발자의 역할은 단순 구현에서 벗어나, 에이전트가 수행한 실험의 문제를 정의하고, 증거를 선택하며, 워크플로우를 설계하고, 결과물이 프로덕션에 적합한지 결정하는 검토(Review) 중심으로 변화하고 있다.