AI Briefing#together-ai
#together-ai와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#together-ai와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
하이브리드 모델 서빙에서 프리필 TPM을 최대 3.14배 높이고 p90 TTFT를 최대 88% 줄였다.
TKCC가 영속 엔진으로 시작 시간을 9.0초로 줄여 실시간 추론 최적화를 실현했다.
Together AI가 학습 비용 17달러인 저가 분류기 tev1-4B-experimental을 공개했다.
TogetherAI가 추론 효율을 높이는 새로운 KV 캐시 양자화 기술인 OSCAR를 오픈소스로 공개했다.
Together AI 인프라를 통해 Hugging Face Hub의 다양한 LLM을 간편하게 미세 조정할 수 있다.