Spotify의 Portal로 Claude Code 토큰 사용량 90% 절감

AI 코딩 에이전트의 작업 중 상당수는 추론이 아닌 파일 읽기나 보일러플레이트 생성 등 단순 I/O 작업이다. 이러한 작업에 고비용의 프런티어 모델을 사용하는 것은 비효율적이며, Gartner는 2028년까지 AI 코딩 비용이 개발자 평균 연봉을 초과할 것으로 예상한다.

Spotify의 Portal에 포함된 AiKA Modes는 이러한 문제를 해결하기 위해 설계되었다. 이는 선언적인 에이전트로, AWS Lambda처럼 에페메럴 런타임에서 실행되며 인프라 관리나 API 키 설정 없이 모델과 지시사항만 정의하면 된다.

두 가지 모드와 라우팅 전략

저자는 bulk-reader와 code-writer라는 두 가지 모드를 생성하여 작업을 분산했다.

• bulk-reader: 여러 파일을 읽어야 하는 질문에 대해 Gemini 2.5 Flash를 사용하여 구조화된 답변만 간결하게 반환한다.
• code-writer: 테스트 파일이나 설정 스크래핑처럼 기존 패턴을 따르는 예측 가능한 출력 작업을 처리한다.

이러한 모드들은 shunt라는 Claude Code 플러그인을 통해 라우팅된다. 이 플러그인은 Hooks를 사용하여 파일 크기가 임계값(기본 350줄)을 초과하거나 대용량 파일을 읽으려는 명령어가 감지되면, Claude의 직접 실행을 차단하고 Portal의 모드 호출로 유도한다. 이를 통해 고비용 모델은 진정한 추론이 필요한 복잡한 문제에만 집중할 수 있게 된다.