Keras, Llama 3.2 지원 및 사용법 안내

Llama 3.2 모델이 Keras Hub를 통해 공식적으로 지원된다. 별도의 변환 과정 없이 Hugging Face의 safetensors 체크포인트를 즉시 로드할 수 있으며, 필요 시 실행 시점에 자동으로 변환된다.

주요 특징:

• 멀티 백엔드 지원: KERAS_BACKEND 환경 변수 설정을 통해 JAX, PyTorch, TensorFlow 중 원하는 프레임워크를 선택하여 모델을 실행할 수 있다. 특히 JAX와 XLA 컴파일을 활용한 최적화가 가능하다.
• 사용자 편의성 (Batteries Included): 토크나이저가 내장되어 있어 문자열을 직접 입력하여 model.generate()를 호출하거나, 문자열 리스트로 model.fit()을 통한 학습이 가능하다.
• 자동화된 전처리: Preprocessor가 텍스트 시작/종료 토큰 추가, 패딩, 마스킹, 학습용 출력 생성 등을 자동으로 처리한다.
• 세밀한 제어: 토크나이저, 백본(Backbone), 전처리기를 각각 분리하여 로드하거나 모델의 하위 계층에 직접 접근할 수 있다.