Jamba Instruct 공개
·2024.05.02 19:20
AI21이 256K context window와 안전장치를 갖춘 Jamba-Instruct를 공개했다.
AI21이 Jamba의 정렬(aligned) 버전인 Jamba-Instruct를 AI21 Platform에서 public preview로 공개했다. 추가 학습, chat 기능, safety guardrails를 더해 기업이 즉시 상용 워크플로에 적용할 수 있도록 했다.
Jamba-Instruct는 같은 크기대의 instruction-tuned 경쟁 모델보다 품질과 비용 효율에서 우위를 내세운다. 특히 256K context window를 제공해, 동급 최대 수준의 긴 문맥 처리가 가능하며 비용 최적화로 접근성도 높였다고 강조했다.
이 정도 문맥 길이면 400쪽 분량 소설이나 기업의 연간 재무공시 전체를 한 번에 넣고 질의응답과 요약을 수행할 수 있다. 따라서 다음과 같은 enterprise use case에 적합하다.
- 실적 발표 콜 transcript QA
- 법률 문서 핵심 요약
- 긴 문맥을 유지하는 고객용 chatbot
기존 Jamba가 open model로서 안전하고 정확한 출력을 위해 별도의 fine-tuning을 요구했다면, Jamba-Instruct는 상용 사용에 필요한 안전성, chat 능력, 명령 이해도를 미리 갖춘 형태다. AI21은 이를 통해 기업의 time to production을 크게 줄일 수 있다고 설명했다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.