AI BriefingAI21, 개발 경험 단순화한 오픈소스 Python SDK 2.0 공개
·2024.02.16 00:10
핵심 내용
AI21이 오픈소스 Python SDK v2.0을 공개해 개발 경험을 단순화했다.
자세히 보기
AI21이 오픈소스 Python SDK v2.0을 공개했다. 새 버전은 AI21 모델을 더 쉽게 붙여 쓰도록 설계됐고, LangChain과 LlamaIndex 같은 LLM 오케스트레이션 프레임워크와의 통합도 수월해졌다.
주요 변화는 다음과 같다.
- 여러 client instance를 동시에 써서 AI21 Studio, Amazon SageMaker, Amazon Bedrock을 계정별로 분리해 접근할 수 있다.
- 입력·출력 타입을 표준화해 IDE 자동완성과 힌트만으로 함수의 형태를 파악하기 쉬워졌다.
- 내장 tokenizer로 API 요청 없이도 로컬 환경에서 토큰 사용량을 확인할 수 있다.
- 전체 소스 코드는 GitHub에 공개돼 이슈를 통해 기능 제안과 피드백을 받을 수 있다.
AI21은 이번 SDK가 구현 시간을 줄이고, 엔터프라이즈 유스케이스로의 도입을 더 쉽게 만들 것이라고 설명했다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
