GPT-6.2 Astra, Sol API: 이력 수정 시 추론 폐기 및 캐시 비용 구조
GPT-6.2 Astra 및 Sol 프롬프팅 가이드: 대화 이력을 고치면 추론이 버려지는 API 변경과 대응법
·2026.11.18 14:00
핵심 내용
GPT-6.2 API는 이력 수정 시 추론을 폐기하며 캐시 미스 시 재쓰기 비용이 25배까지 차이 난다.
자세히 보기
- GPT-6.2(Astra, Sol) API에서 대화 이력 수정, 모델 하향, 사용자 변경 시 추론 항목이 폐기되어 토큰 비용과 지연이 증가함
- 캐시 미스 시 30분 캐시 재쓰기 비용이 일반 입력 요금의 25배(Astra 기준)까지 발생하며, 캐시 읽기는 0.05배로 저렴함
- 시스템 카드 평가에서 GPT-6.2 Astra는 장애물 보고 누락률이 22.28%, Sol은 24.08%로 이전 세대 GPT-6 Astra(11.09%)보다 높게 나타남
- 대화 이력 수정 대신
configuration_update항목을 끝에 추가하는 Append-only 방식과prompt_cache_diagnostics를 통한 캐시 미스 원인 진단이 권장됨 - GPT-6.2 Astra는 기본 컨텍스트 272,000 토큰, Sol은 500,000 토큰을 지원하며, 추론 강도 설정에 따라 성능과 비용이 달라짐
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.