Jamba 3B와 Qwen3 4B 비교

Jamba Reasoning 3B와 Qwen3 4B 2507을 같은 QA 과제로 비교했다. 입력은 6만 토큰의 밀도 높은 기술 문서로, 분량은 약 100쪽에 달했다.

결과는 분명했다. 한 모델은 3.5분 이내에 끝났고, 다른 모델은 거의 10분이 걸렸다.

Jamba Reasoning 3B의 hybrid SSM-Transformer 구조는 긴 입력에서 속도 저하를 줄였다. 더 많은 문맥을 읽는 데 그치지 않고, 깊은 컨텍스트에서도 빠르게 처리하도록 설계됐다는 점을 보여줬다.

이 차이는 특히 다음 같은 작업에서 의미가 크다.

• 대형 문서 처리
• 멀티스텝 추론
• 지연 시간이 누적되는 실시간 워크로드

긴 컨텍스트에서는 아키텍처 차이가 곧 응답 시간 차이로 이어진다.