OpenAI o1 및 개발자용 신규 도구 출시

OpenAI가 추론 모델인 o1을 API로 제공하며, 개발자를 위한 다양한 기능과 도구를 업데이트했다. 이번 업데이트에는 Realtime API 개선, 새로운 Preference Fine-Tuning 방식, Go 및 Java SDK 베타 버전이 포함된다.

o1 API는 실제 서비스 환경에 최적화된 다음과 같은 핵심 기능을 지원한다:

• Function calling: 외부 데이터 및 API와의 원활한 연결
• Structured Outputs: 사용자 정의 JSON Schema에 맞춘 신뢰할 수 있는 응답 생성
• Developer messages: 모델의 톤, 스타일 등 행동 지침 지정
• Vision capabilities: 이미지 기반 추론을 통한 다양한 응용 분야 지원
• 지연 시간 단축: o1-preview 대비 평균 60% 적은 추론 토큰 사용
• reasoning_effort 파라미터: 모델의 사고 시간 제어 가능

새롭게 출시된 o1-2024-12-17 스냅샷은 이전 버전보다 성능과 비용 효율성을 모두 개선했다. 특히 SWE-bench Verified 및 AIME 2024 등 주요 벤치마크에서 비약적인 성능 향상을 기록하며 새로운 SOTA(State-of-the-art)를 달성했다.