마이크로소프트, Windows AI를 위해 Nvidia GPU에서 Phi Silica 테스트 중

마이크로소프트가 소형 언어 모델(SLM)인 Phi Silica를 Nvidia RTX GPU에서 실행할 수 있도록 지원 범위를 확장하고 있습니다. 기존에 NPU(신경망 처리 장치) 기반의 Windows Copilot+ PC에 최적화되었던 Phi Silica를 일반 GPU 환경에서도 사용할 수 있게 하여 로컬 AI 활용도를 높이는 것이 목표입니다.

현재 이 기능은 개발자를 대상으로 한 실험적 단계로 제공됩니다. GPU 경로를 이용하기 위해서는 다음과 같은 조건이 필요합니다:

• Nvidia RTX 30 시리즈 이상의 GPU (최소 6GB VRAM 필요)
• Windows Insider Experimental Channel 및 Developer Mode 활성화
• Windows App SDK 2.2.2-experimental9 이상 버전 및 최신 GPU 드라이버

이번 테스트는 Copilot+ PC가 아닌 일반 Windows 11 기기에서도 로컬 AI 기능을 사용할 수 있는 길을 열어줄 것으로 기대됩니다. 다만, GPU 실행 시 프롬프트 압축(Prompt Compression)이나 투사 디코딩(Speculative Decoding)과 같은 NPU 전용 기능은 아직 제한적일 수 있습니다.