AI BriefingAmazon, Strands Decider E4B 도입으로 티켓 라벨링 비용 98% 절감
·2026.11.09 09:00
핵심 내용
Amazon이 Strands Decider E4B로 교체해 티켓 처리 비용을 98% 절감했다
자세히 보기
- Amazon이 내부 티켓 라벨링 작업에서 Claude Sonnet 4.6을 Strands Decider E4B로 교체하여 비용 98% 절감 및 지연 시간 78% 개선 달성함
- Strands Decider E4B는 티켓당 평균 897ms 처리 속도를 보이며 Sonnet 4.6의 4,215ms 대비 우위, 티켓당 총 토큰 사용량은 2,010개로 Sonnet 4.6의 6,724개보다 적음
- 100만 건당 티켓 처리 비용이 Sonnet 4.6의 약 $22,200에서 Strands Decider E4B의 약 $500으로 하락하여 연간 토큰 비용 수백만 달러 절감 효과 발생함
- AWS AppConfig를 통해 BEDROCK, DUAL, DECIDER 3가지 구성 옵션을 전환하여 병렬 테스트 및 즉시 롤백 가능하도록 구현함
- Strands Decider E4B는 SageMaker ml.g5.xlarge 인스턴스(A10G, 24 GB)에서 구동되며 컨텍스트에 맞도록 재작성된 라벨 기준과 4,096 토큰 윈도우를 활용함
- 설명 텍스트가 불필요하고 컨텍스트가 수천 토큰 내로 제한되는 고부피 폐쇄형 분류 작업에 적합함
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
