AI BriefingAlibaba T-Head AI 스택의 실체
We ran Alibaba T-Head's PPU cluster for months — their "AI software stack" is unattributed sglang with bugs they couldn't fix themselves
핵심 내용
Alibaba T-Head의 asllm 엔진이 오픈소스 sglang를 무단 사용하고 심각한 버그를 방치하고 있다는 분석이 제기되었다.
자세히 보기
Alibaba T-Head의 ZW810E PPU 클러스터용 추론 엔진인 asllm을 분석한 결과, 오픈소스 프로젝트인 **sglang(v0.5.9)**을 거의 그대로 사용하면서도 Apache 2.0 라이선스에 따른 출처 표기를 누락한 사실이 드러났다.
분석에 따르면 asllm은 sglang의 프라이빗 포크 버전이며, 기업 고객을 위해 Qwen3 MoE 모델에 AES 암호화를 적용한 파일 몇 개만 추가된 상태다.
또한, 지속적인 부하 상황에서 시스템이 멈추는 심각한 행(hang) 버그가 발견되었다. 이는 MambaRadixCache.sanity_check() 함수가 매 스케줄러 idle tick마다 실행되면서 발생하는 O(N) 힙 워크(heap walk) 문제로, 캐시 깊이가 깊어질수록 성능 저하와 프리징을 유발한다.
작성자는 해당 버그의 원인과 수정안을 Alibaba 측에 전달했으나, 2주가 지나도록 패치가 이루어지지 않아 직접 운영 환경에서 코드를 수정해 문제를 해결했다고 밝혔다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
