Perplexity Decider v1.3, 추출 작업서 GLiNER 성능 상회

Perplexity releases Decider v1.3 (26B) and Decider Flash v1.3 (5B): open-weight (Apache 2.0) classification/decision models

·2026.11.13 22:08

핵심 내용

Perplexity가 오픈 웨이트 Decider v1.3과 Flash v1.3 모델을 공개했다.

자세히 보기

  • Perplexity가 pplx-decider-v1.3(26B)와 pplx-decider-flash-v1.3(5B)를 오픈 웨이트(Apache 2.0) 결정 모델로 공개함. 텍스트 생성 대신 답변 옵션에 대한 확률 분포를 반환함.
  • 17개 도메인 외 NER, PII, 추출형 QA 작업에서 v1.3 모델은 평균 69.0점, Flash는 63.6점을 기록함. 이는 Liquid d1의 43.3점과 GLiNER large v2.5의 33.6점을 상회함.
  • 두 모델 모두 텍스트와 이미지 입력을 지원하며 OpenRouter와 Perplexity API를 통해 제공됨. BF16 가중치는 26B 모델 기준 약 49 GiB, 5B 모델 기준 8.5 GiB 용량이 필요함.
  • 새로운 locate 질문 유형은 별도 LoRA 어댑터를 사용해 문자 오프셋을 포함한 원문 스팬을 추출함. 분류 성능 회귀를 방지하기 위해 해당 어댑터는 병합되지 않음.

Technical Specifications

  • v1.3은 Qwen3.8-27B, Flash는 Qwen3.5-4B를 기반으로 파인튜닝함. Flash 모델은 교사의 분포를 대상으로 KL 목적 함수를 사용해 증류함.
  • 백본의 전체 어텐션 레이어는 양방향 구조로, 일반 인과 추론만으로는 출력을 재현할 수 없어 추론 시 pplx_decider 패키지 사용이 필수임.
  • 학습 시퀀스는 최대 약 30k 토큰까지 확장되었으며, yes/no, 최대 255개 선택지의 다중 선택, 순서 매겨진 점수, locate 질문 유형을 지원함.

Performance and Cost

  • 8개 언어에 걸친 다국어 분류 작업에서 v1.3은 88.16%, Flash는 86.50%의 정확도를 달성함. 이는 TypeSafe의 Jev 1.14(85.41%)를 초과함.
  • 72개 검색 작업에서 리랭킹 성능이 83.99 nDCG@10을 기록하며 Qwen3-Reranker-8B 대비 1.81점 향상됨.
  • Artificial Analysis Decision Index 점수는 v1.3이 1M 작업당 $68에 약 70점, Flash가 1M 작업당 $34에 약 64점으로 집계됨.

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.