AI BriefingFuriosaAI 뉴스
FuriosaAI에서 수집한 AI·개발 최신 뉴스와 한국어 요약입니다.
원문 사이트 방문 →Furiosa SDK 2026.1: 하이브리드 배칭, prefix caching, 네이티브 Kubernetes 지원
Furiosa SDK 2026.1이 배칭·캐싱·Kubernetes 지원을 강화했다.
PyTorch가 Dynamic Tensor Shape를 처리하는 법
torch.compile은 shape가 바뀌면 재컴파일하고 guard로 실행 범위를 제한한다.
RNGD로 GPT-OSS 120B를 5.8ms TPOT로 서빙하기
RNGD 두 장으로 GPT-OSS 120B를 5.8ms TPOT와 저전력으로 서빙했다.
FuriosaAI SDK 2025.3, RNGD 성능 대폭 향상
SDK 2025.3로 RNGD가 Llama 3.3 70B에서 처리량 3배, TTFT 35% 개선.
효율적인 AI 추론을 위한 RNGD 서버 공개
FuriosaAI가 기존 데이터 센터 인프라에 최적화된 AI 추론용 turnkey 솔루션 'NXT RNGD 서버'를 공개했다.
FuriosaAI와 OpenAI: 지속 가능한 AI의 미래
FuriosaAI가 OpenAI 서울 오피스 개소식에서 자사의 AI 가속기 RNGD를 통해 gpt-oss-120b 모델을 효율적으로 구동하는 기술을 시연했다.
FuriosaAI, ICML 및 ACL에서 AI 성능 관련 논문 발표
FuriosaAI가 ICML과 ACL에서 모델 효율성, 추론 능력, 유연성을 높이는 6편의 연구 논문을 발표했다.
FuriosaAI, AI 컴퓨팅 확장을 위해 1억 2,500만 달러 규모 시리즈 C 투자 유치
FuriosaAI가 AI 컴퓨팅 확장을 위해 1억 2,500만 달러 규모의 시리즈 C 투자를 유치했다.
LG AI Research, LLM 추론 성능 2.25배 향상 달성
LG AI Research가 FuriosaAI의 RNGD 가속기를 채택해 EXAONE 모델의 LLM 추론 효율을 GPU 대비 2.25배 높였다.
Furiosa SDK 2025.2: Hugging Face 및 추론 모델 지원
Furiosa가 RNGD를 위한 SDK 2025.2를 출시하며 추론 모델 지원과 Hugging Face 통합을 강화했다.
퓨리오사AI, RNGD를 Microsoft Azure Marketplace에 출시
퓨리오사AI의 AI 가속기 RNGD가 Microsoft Azure Marketplace에 출시되어 기업의 손쉬운 AI 인프라 구축을 지원한다.
RNGD를 활용한 RAG 애플리케이션 구축 | FuriosaAI
FuriosaAI의 RNGD 가속기를 활용해 고성능·저전력 RAG 애플리케이션을 구축하는 방법을 제시한다.
Furiosa SDK 2025.1.0 출시
Furiosa가 LLM 추론 성능을 최적화하고 Tool Calling을 지원하는 SDK 2025.1.0을 출시했다.
Furiosa SDK를 활용한 고속 추론 성능 시연
FuriosaAI가 RNGD 칩과 SDK를 통해 대규모 LLM 요청을 효율적으로 처리하는 고속 배치 추론 성능을 시연했다.
FuriosaAI, ECCV 및 CoLM 컨퍼런스에서 논문 발표
FuriosaAI가 ECCV와 CoLM에서 멀티모달 학습 및 확산 모델 제어 관련 연구 논문을 발표했다.
Kubernetes와 ML 추론의 새로운 장
Kubernetes가 DRA와 CDI를 통해 ML 추론을 위한 하드웨어 최적화와 효율적인 관리를 지원한다.