Llama-3.1-8B-Instruct: 8B급 경량 모델로 183M 회 다운로드 기록

Meta가 공개한 8B 파라미터 규모의 대화 전용 모델이다. 누적 다운로드 1억 8천만 회를 넘기며 오픈소스 생태계에서 가장 널리 쓰이는 기준점 중 하나다. Hugging Face Hub에서 직접 가중치를 내려받거나 여러 추론 제공자를 통해 API로 호출할 수 있다.

GSM8K 수학 문제 풀이에서 84.5점의 성능을 기록해 복잡한 논리 추론과 계산 작업에 강점을 보인다. 구조화된 출력과 도구 호출을 지원해 에이전트 개발이나 자동화 파이프라인의 두뇌로 활용하기 적합하다. 단일 도구 호출에 최적화된 템플릿을 제공해 복잡한 함수 연동 시에도 일관된 응답을 기대할 수 있다.

Nscale, Novita, DeepInfra 등 다양한 클라우드 제공자가 호스팅 중이라 GPU 자원 확보 없이도 즉시 테스트 가능하다. 초당 150토큰 이상의 빠른 추론 속도를 제공하는 환경도 있어 실시간 대화형 애플리케이션 구축에 유리하다. 경량화되어 있어 로컬 환경이나 제한된 하드웨어에서도 실행 부담이 적다.