API에 Structured Outputs 기능 도입

기존 JSON mode는 모델이 유효한 JSON을 생성하도록 돕지만, 특정 스키마를 완벽하게 준수한다는 보장은 없었다. 이로 인해 개발자들은 프롬프팅을 개선하거나 요청을 반복해서 재시도하는 등의 우회 방법을 사용해야 했다.

새롭게 도입된 Structured Outputs는 모델의 출력이 개발자가 제공한 JSON Schema와 정확히 일치하도록 보장한다. OpenAI는 모델이 복잡한 스키마를 더 잘 이해할 수 있도록 별도의 학습을 진행했으며, 모델이 스키마를 엄격히 따르도록 제약 조건을 적용했다.

성능 테스트 결과, 새로운 모델인 gpt-4o-2024-08-06은 복잡한 JSON 스키마 준수 평가에서 **100%**의 정확도를 기록했다. 이는 40% 미만의 점수를 기록한 gpt-4-0613과 대조되는 압도적인 수치다.

이 기능은 Function calling을 통해 사용할 수 있으며, tools 정의 내에서 strict: true 설정을 통해 활성화할 수 있다. gpt-4-0613 및 gpt-3.5-turbo-0613 이후의 모든 모델에서 지원된다.