새로운 임베딩 모델 및 API 업데이트

OpenAI가 성능을 대폭 개선하고 비용을 낮춘 새로운 임베딩(Embedding) 모델과 GPT-3.5 Turbo 업데이트를 발표했다. API로 전송된 데이터는 기본적으로 모델 학습에 사용되지 않는다.

새로운 임베딩 모델은 두 가지 모델로 구성된다:

• text-embedding-3-small: 기존 text-embedding-ada-002 대비 성능은 향상되었으며, 가격은 5배 저렴해졌다($0.0001 $\rightarrow$ $0.00002/1k tokens).
• text-embedding-3-large: 최대 3,072차원을 지원하는 차세대 모델로, MIRACL 벤치마크에서 54.9%의 점수를 기록하며 기존 모델을 압도한다.

특히 이번 모델들은 차원 축소(Dimensions parameter) 기능을 지원한다. 개발자는 dimensions 파라미터를 통해 임베딩의 차원을 줄임으로써, 정확도를 일부 희생하는 대신 비용과 저장 공간을 효율적으로 관리할 수 있다.

또한, GPT-3.5 Turbo 모델(gpt-3.5-turbo-0125)의 가격도 인하된다. 입력 토큰 가격은 50%($0.0005/1k tokens), 출력 토큰 가격은 25%($0.0015/1k tokens) 낮아져 대규모 서비스 운영 비용을 절감할 수 있다.