AI21 Labs, 섀도 인터프리터 기반 Python 라이브러리 Teel 출시
·2026.11.05 09:00
핵심 내용
AI21 Labs의 Teel이 섀도 인터프리터로 IO 병렬화해 실행 시간을 83% 단축했다
자세히 보기
- AI21 Labs가 순차 코드에서 독립적인 IO 바운드 호출을 병렬화하여
async,await또는 수동 동시성 로직 없이 실행 속도를 높이는 오픈소스 Python 런타임 Teel을 출시함 - GPT-4를 사용한 Princeton Tree of Thoughts 벤치마크에서 Teel은 평균 실행 시간을 83% 단축(148초에서 24초)하고, 최장 실행 시간을 8.07배 개선(307초에서 38초)함
- Teel은 CPython 바이트코드와 프레임 스택을 읽어 독립적인 호출을 식별하고, 조건 분기를 투기적으로 실행하면서
ThreadPoolExecutor로 디스패치하는 섀도 인터프리터 방식으로 동작함 - LangChain Deep Agents(RLM) 성능 테스트에서 동기식 Python 대비 2.58배 속도 향상(150초에서 58초)을 기록했으며, 모델이 생성한 async JavaScript 코드보다 19% 개선됨
- 현재 Python 3.12.13만 지원하며, 투기적 실행 분기의 부작용이 지원되지 않아
@cacheable함수는 순수 함수여야 함 - Perfetto UI에서 시각화할 수 있는 Chrome trace-event 파일을 통해 관찰성을 제공하여, 사용자가 호출 시작 시간, 지속 시간, 실행 스레드를 검사할 수 있음
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.