Perplexity Decider v1.3, 추출 작업서 GLiNER 성능 상회
Perplexity releases Decider v1.3 (26B) and Decider Flash v1.3 (5B): open-weight (Apache 2.0) classification/decision models
·2026.11.13 22:08
핵심 내용
Perplexity가 오픈 웨이트 Decider v1.3과 Flash v1.3 모델을 공개했다.
자세히 보기
- Perplexity가 pplx-decider-v1.3(26B)와 pplx-decider-flash-v1.3(5B)를 오픈 웨이트(Apache 2.0) 결정 모델로 공개함. 텍스트 생성 대신 답변 옵션에 대한 확률 분포를 반환함.
- 17개 도메인 외 NER, PII, 추출형 QA 작업에서 v1.3 모델은 평균 69.0점, Flash는 63.6점을 기록함. 이는 Liquid d1의 43.3점과 GLiNER large v2.5의 33.6점을 상회함.
- 두 모델 모두 텍스트와 이미지 입력을 지원하며 OpenRouter와 Perplexity API를 통해 제공됨. BF16 가중치는 26B 모델 기준 약 49 GiB, 5B 모델 기준 8.5 GiB 용량이 필요함.
- 새로운 locate 질문 유형은 별도 LoRA 어댑터를 사용해 문자 오프셋을 포함한 원문 스팬을 추출함. 분류 성능 회귀를 방지하기 위해 해당 어댑터는 병합되지 않음.
Technical Specifications
- v1.3은 Qwen3.8-27B, Flash는 Qwen3.5-4B를 기반으로 파인튜닝함. Flash 모델은 교사의 분포를 대상으로 KL 목적 함수를 사용해 증류함.
- 백본의 전체 어텐션 레이어는 양방향 구조로, 일반 인과 추론만으로는 출력을 재현할 수 없어 추론 시 pplx_decider 패키지 사용이 필수임.
- 학습 시퀀스는 최대 약 30k 토큰까지 확장되었으며, yes/no, 최대 255개 선택지의 다중 선택, 순서 매겨진 점수, locate 질문 유형을 지원함.
Performance and Cost
- 8개 언어에 걸친 다국어 분류 작업에서 v1.3은 88.16%, Flash는 86.50%의 정확도를 달성함. 이는 TypeSafe의 Jev 1.14(85.41%)를 초과함.
- 72개 검색 작업에서 리랭킹 성능이 83.99 nDCG@10을 기록하며 Qwen3-Reranker-8B 대비 1.81점 향상됨.
- Artificial Analysis Decision Index 점수는 v1.3이 1M 작업당 $68에 약 70점, Flash가 1M 작업당 $34에 약 64점으로 집계됨.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.