ollama

주요 기능

• 결정 모델(Decision Models) 지원: /v1/systemone 엔드포인트를 통해 텍스트 생성 대신 선택지, 확률 및 점수를 반환하는 결정 모델을 지원합니다. 이는 TypeSafe의 Jev API를 기반으로 하며, 티켓 분류, 모델 라우팅, 콘텐츠 분류 등에 활용됩니다.
  • 사용 가능한 모델: Bespoke Labs의 Nimble, Together AI의 Tev1
  • 지원 질문 유형:
    • choice: 선택지 중 하나를 고르고 각 선택지에 대한 확률을 반환합니다.
    • noul: 특정 조건이 참일 확률을 반환합니다.
    • score: 정렬된 기준에 따라 점수를 반환합니다.

버그 수정 및 개선 사항

• macOS 업데이트 UI 수정: 시작 시 사용 가능한 업데이트가 있을 때 macOS 업데이트 메뉴와 아이콘이 이를 반영하지 않던 문제를 해결했습니다.
• MLX 모델 다운로드 안정화: MLX 모델 다운로드가 무한정 대기(stalled)하던 문제를 수정했습니다.
• 설정 화면 로딩 개선: 모델 검색 완료를 기다리지 않고 설정 화면이 즉시 열리도록 개선되었습니다.
• typical_p 파라미터 처리 변경: 더 이상 사용되지 않는(deprecated) typical_p 파라미터가 포함된 요청이 실패하지 않고 경고 로그만 남기도록 변경되었습니다.