Alibaba T-Head AI 스택의 실체
We ran Alibaba T-Head's PPU cluster for months — their "AI software stack" is unattributed sglang with bugs they couldn't fix themselves
Alibaba T-Head의 asllm 엔진이 오픈소스 sglang를 무단 사용하고 심각한 버그를 방치하고 있다는 분석이 제기되었다.
Alibaba T-Head의 ZW810E PPU 클러스터용 추론 엔진인 asllm을 분석한 결과, 오픈소스 프로젝트인 **sglang(v0.5.9)**을 거의 그대로 사용하면서도 Apache 2.0 라이선스에 따른 출처 표기를 누락한 사실이 드러났다.
분석에 따르면 asllm은 sglang의 프라이빗 포크 버전이며, 기업 고객을 위해 Qwen3 MoE 모델에 AES 암호화를 적용한 파일 몇 개만 추가된 상태다.
또한, 지속적인 부하 상황에서 시스템이 멈추는 심각한 행(hang) 버그가 발견되었다. 이는 MambaRadixCache.sanity_check() 함수가 매 스케줄러 idle tick마다 실행되면서 발생하는 O(N) 힙 워크(heap walk) 문제로, 캐시 깊이가 깊어질수록 성능 저하와 프리징을 유발한다.
작성자는 해당 버그의 원인과 수정안을 Alibaba 측에 전달했으나, 2주가 지나도록 패치가 이루어지지 않아 직접 운영 환경에서 코드를 수정해 문제를 해결했다고 밝혔다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.