FuriosaAI와 Helikai, 보안성과 실전성을 갖춘 agentic AI 제공 위해 협력

FuriosaAI와 Helikai가 규제 환경에서도 바로 적용할 수 있는 secure, production-ready agentic AI 스택을 내놨다. 핵심은 Furiosa의 RNGD 추론 하드웨어와 Helikai의 Micro-AI 에이전트를 결합해, 데이터 주권과 운영 효율, 시스템 복잡도를 함께 해결하는 데 있다.

Helikai는 일반 챗봇이 아니라 복잡한 다단계 업무를 자동화하는 Micro-AI 에이전트를 제공한다. LLM과 semantic search에 규칙 기반 로직, 엔터프라이즈급 오케스트레이션을 결합해, 의사결정이 deterministic하고 감사 가능하도록 설계했다.

인증된 조합은 FuriosaAI NXT RNGD inference servers에서 동작한다. 이 서버는 512 TOPS INT8, 150W TDP를 제공하며, 4U NXT RNGD Server 1대에 최대 8장의 카드를 넣어 4 PetaFLOPS FP8 성능을 3kW 전력 예산 안에서 구현할 수 있다.

• SPRAG™ 기반의 안전한 Retrieval Augmented Generation과 deterministic logic으로, bioinformatics, clinical trial matching, legal discovery 같은 정밀 업무의 결과 일관성을 높인다.
• 배포 대상은 on-premises 또는 private VPC이며, 민감한 데이터와 모델 실행을 고객 통제 범위 안에 둔다.
• GPU 중심 데이터센터의 높은 전력·냉각 부담을 줄이면서, 표준 공랭 랙에서도 엔터프라이즈 AI 자동화를 운영할 수 있게 한다.

결국 이 파트너십은 실험 단계의 LLM 활용을 넘어, 규제 산업에서 실제 운영 가능한 agentic workflow의 하드웨어·소프트웨어 기반을 제시한다.