글로벌 설문조사로 살펴본 기업의 AI 인프라 계획

FuriosaAI, ClearML, AI Infrastructure Alliance가 북미, 유럽, 아시아 1,000개 기업을 대상으로 진행한 설문조사에 따르면, 응답자의 **96%**가 2024년 온프레미스 또는 클라우드 환경에서 AI 컴퓨팅 인프라를 확장할 계획이라고 답했다.

많은 기업이 Generative AI 도입을 서두르고 있지만, 동시에 너무 빠른 속도로 인해 잘못된 유스케이스를 우선시하는 등의 실수를 범할 것에 대한 우려도 나타났다. 이는 많은 기술 기업이 인프라 용량은 늘리고 있으나, 아직 구체적인 실행 계획을 수립하는 초기 단계에 있음을 시사한다.

오픈소스 도구와 프레임워크의 중요성도 높게 나타났다. 응답자의 **95%**가 오픈소스 도구 활용이 중요하다고 답했으며, 프레임워크별로는 PyTorch(61%), TensorFlow(43%), Jax(16%) 순으로 선호도가 높았다.

특히 주목할 점은 **추론(Inference)**을 위한 인프라 수요다. 응답자의 **52%**가 GPU를 대체할 비용 효율적인 대안을 찾고 있다고 답해, 학습(Training) 분야(27%)보다 높은 비중을 보였다.

FuriosaAI는 이러한 시장 요구에 맞춰 컴퓨터 비전 가속을 위한 Gen 1 Vision NPU를 제공하고 있으며, LLM 및 멀티모달 추론을 위한 2세대 가속기 출시를 준비 중이다.