AI21 Labs의 LLM, Amazon SageMaker Studio에서 이용 가능

AI21 Labs의 LLM이 Amazon SageMaker Studio의 SageMaker JumpStart에서 탐색 가능해졌다. 이전에는 일부 사용자에게만 열려 있던 모델을 이제 Studio 안에서 바로 찾고 활용할 수 있다.

SageMaker 환경에서는 모델을 VPC 기반 전용 인스턴스에 호스팅해 관련 데이터가 외부로 나가지 않게 할 수 있다. 또한 AI21 모델을 돌릴 서버를 사용자가 직접 선택할 수 있어, 비용과 처리량 사이의 균형을 맞추기 쉽다.

제공되는 모델은 다음과 같다.

• Jurassic-2 Foundation Models: Ultra, Mid, Light
• Task-specific models: Contextual Answers, Summarize, Paraphrase, Grammatical Error Correction(GEC)

Jurassic-2는 Stanford의 HELM 기준 정확도와 신뢰성이 높은 모델로 소개되며, 긴·짧은 형식의 텍스트 생성과 질문 응답, 분류 같은 작업에 활용된다. AI21은 SageMaker에서의 초기 제공 이후 Jurassic-1을 Jurassic-2로 업그레이드하고, task-specific APIs도 추가했다. 이를 통해 기업들은 보안이 유지되는 환경에서 생성형 AI 기능을 더 쉽게 구축·배포할 수 있다.