Upstage, Solar Mini를 AWS에 출시

Upstage가 Solar Mini를 AWS에 출시했다. 개발자는 이를 Amazon SageMaker JumpStart의 사전 구축 foundation model과 AWS Marketplace를 통해 바로 사용할 수 있다.

모델은 Korean과 English에서 텍스트 이해, 요약, 번역, 콘텐츠 생성까지 폭넓게 지원하며, Thai와 Japanese 지원도 곧 추가될 예정이다.

핵심 장점은 비용 효율성이다.

• 10.7 billion parameters 규모라 더 큰 모델보다 낮은 비용으로 inference를 처리할 수 있다.
• 사전 학습된 모델이라 처음부터 모델을 만들 필요가 없고, 도메인 데이터로 fine-tuning만 하면 된다.
• Upstage는 AWS SageMaker를 활용해 모델을 학습했고, 데이터 전처리와 fine-tuning, RAG를 통해 문화적 이해와 factual accuracy를 높였다고 밝혔다.

Solar Mini는 2023년 12월 Hugging Face Open LLM Leaderboard에서 오픈소스 대형 SLM 가운데 1위를 기록한 바 있다. Upstage와 AWS는 이번 공개가 기업들이 로컬 수준에서 generative AI를 더 쉽게 도입하는 계기가 될 것이라고 강조했다.