Uber, AI 에이전트 기반 '소프트웨어 팩토리' 운영 전략 공개... 비용 34% 절감

Uber는 AI 도구가 소프트웨어 개발 수명주기의 모든 단계에 통합됨에 따라, '소프트웨어 팩토리'를 효율적으로 운영하기 위한 전략과 비용 최적화 방법을 공개했습니다. 현재 Uber에서는 전체 Pull Request의 70% 이상이 로컬 또는 클라우드 에이전트에 의해 생성되며, 하루 평균 3만 건 이상의 에이전트 스킬 실행이 이루어지고 있습니다.

4단계 에이전트 사용 계층

Uber는 AI 사용을 특수화 정도에 따라 4개의 계층으로 분류합니다. 상위 계층일수록 비용, 품질, 모델 선택에 대한 통제력이 높아집니다. 이 구조를 통해 에이전트가 수행하는 작업의 비용을 분해하고 최적화합니다.

비용 분해 및 최적화 지표

총 지출은 채택률, 참여도, 에이전트 자체 작업량 등 6가지 항목으로 분해되어 측정됩니다. 특히 모델 업그레이드와 상관없이 고정된 모델 기준으로 비교했을 때, 1,000건당 모델 요청 비용은 피크 대비 약 34% 감소했으며, 세션당 비용은 6월 피크 대비 52% 감소했습니다. 이는 입력 토큰 최적화, 불필요한 턴 감소, 프롬프트 캐시 활용 등을 통해 달성된 결과입니다.

주요 관리 지표

Uber는 주간 및 월간 단위로 다음과 같은 지표를 추적하여 단기 및 장기 계획을 수립합니다.

• 포트폴리오 수준: 총 귀속 비용, 고유 사용자 수, 도구별 비용 점유율
• 단위 경제성: 사용자당 비용, 요청당 토큰 수, 프롬프트 캐시 적중률
• 모델 경제성: 모델별 비용 및 요청 점유율, 토큰당 비용 변화
• 관리형 에이전트 성과: 병합된 PR당 비용, 리버트율, MTTR 등 품질 신호