Meta, Llama 3.2 멀티모달·온디바이스 모델 공개

Meta가 멀티모달 기능과 온디바이스 최적화 모델을 포함한 Llama 3.2를 출시했다. 이번 업데이트에는 총 10개의 오픈 웨이트 모델이 포함되어 있다.

Llama 3.2 Vision은 두 가지 크기로 제공된다. 소비자급 GPU에서 효율적으로 구동 가능한 11B 모델과 대규모 애플리케이션을 위한 90B 모델이 있으며, 시각적 추론, 문서 질의응답, 이미지-텍스트 검색 등의 작업에 탁월한 성능을 보인다.

또한, 기기 자체에서 실행 가능한 1B 및 3B 크기의 소형 텍스트 전용 모델이 추가되었다. 안전성을 위해 멀티모달 프롬프트와 응답을 감지할 수 있는 Llama Guard 3도 함께 공개되었다.

Hugging Face는 Transformers, TGI 통합은 물론, Google Cloud, Amazon SageMaker, DELL Enterprise Hub 등 다양한 인프라를 통한 배포와 미세 조정을 지원한다.