Jamba-Instruct, Amazon Bedrock 출시

AI21 Labs의 최신 파운데이션 모델인 Jamba-Instruct가 Amazon Bedrock에 추가되었다. 이 모델은 256K의 방대한 컨텍스트 윈도우와 경쟁력 있는 가격을 갖춰, 긴 문서 요약, 질의응답, 텍스트 생성 작업에 최적화되어 있다.

Jamba-Instruct는 세계 최초의 프로덕션급 SSM-Transformer 하이브리드 아키텍처를 기반으로 설계되었다. 기존의 Transformer 구조와 SSM 아키텍처를 결합하여 성능, 품질, 비용 효율성을 모두 확보했다.

주요 특징은 다음과 같다:

• 256K 컨텍스트 윈도우: RAG 파이프라인의 검색 단계 강화, 긴 문서 요약 및 다중 문서 합성 지원
• 비용 효율적인 처리: 하이브리드 아키텍처를 통해 적은 클라우드 리소스로도 긴 컨텍스트를 처리하여 비용 절감
• 최고의 가성비: 주요 벤치마크에서 경쟁 모델과 대등하거나 이를 능가하는 성능을 제공하면서도 높은 가격 경쟁력 유지

Amazon Bedrock을 통해 기업들은 AWS의 신뢰할 수 있고 확장 가능한 환경에서 모델을 활용할 수 있다. 완전 관리형 서비스로서 인프라 유지보수 부담 없이 VPC 설정, 암호화, 컴플라이언스 모니터링 등 강력한 보안 기능을 제공한다.