AI21, 개발 경험 단순화한 오픈소스 Python SDK 2.0 공개
·2024.02.16 00:10
AI21이 오픈소스 Python SDK v2.0을 공개해 개발 경험을 단순화했다.
AI21이 오픈소스 Python SDK v2.0을 공개했다. 새 버전은 AI21 모델을 더 쉽게 붙여 쓰도록 설계됐고, LangChain과 LlamaIndex 같은 LLM 오케스트레이션 프레임워크와의 통합도 수월해졌다.
주요 변화는 다음과 같다.
- 여러 client instance를 동시에 써서 AI21 Studio, Amazon SageMaker, Amazon Bedrock을 계정별로 분리해 접근할 수 있다.
- 입력·출력 타입을 표준화해 IDE 자동완성과 힌트만으로 함수의 형태를 파악하기 쉬워졌다.
- 내장 tokenizer로 API 요청 없이도 로컬 환경에서 토큰 사용량을 확인할 수 있다.
- 전체 소스 코드는 GitHub에 공개돼 이슈를 통해 기능 제안과 피드백을 받을 수 있다.
AI21은 이번 SDK가 구현 시간을 줄이고, 엔터프라이즈 유스케이스로의 도입을 더 쉽게 만들 것이라고 설명했다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.