Databricks Metric View 도입으로 지표 정의 통일 및 에이전트 비용 약 50% 절감

지표 정의 불일치와 성능 문제 해결

데이터 인텔리전스 팀은 대시보드, ad-hoc 쿼리, AI 에이전트 간 지표 정의가 상이해 데이터 불일치와 성능 저하가 발생하던 문제를 해결하기 위해 Databricks Metric View를 도입했다. 기존 환경에서는 정제되지 않은 로그를 에이전트가 직접 해석하며 매번 다른 정제 기준을 적용해 값이 어긋나는 현상이 빈번했다. Metric View는 Unity Catalog 기반의 semantic layer로, measure와 dimension을 YAML로 정의해 SQL, 노트북, BI 도구, 에이전트 등 모든 소비자가 동일한 정의를 공유하도록 설계됐다.

아키텍처 설계와 캐싱 전략

기존 Bronze/Silver/Gold 메달리온 아키텍처를 유지하되, Metric View는 정제가 완료된 Silver 데이터를 소스로 사용하는 Semantic 레이어로 배치했다. 이를 통해 nested 필드 펼침이나 중복 제거 등 정제 비용을 중복 지불하지 않도록 했다. 조회 성능을 높이기 위해 Materialization 기능을 활용하되, 가산(additive) 지표는 미리 집계된 결과를 저장하고, 비가산(non-additive) 지표는 개별 row를 저장해 조회 시점에 계산하는 방식으로 구분했다. 평균(avg)이나 점유율 계산 시에는 합(sum)과 건수(count)를 분리 정의하거나 window measure를 사용해 캐시 정확도를 확보했다.

도입 효과와 운영 교훈

도입 결과, 가장 무거운 대시보드에서 compute 사용량이 41% 감소하고 스캔량이 6.7배 줄어드는 성능 개선을 달성했다. 특히 AI 에이전트 측면에서는 도메인 지식을 Metric View 기반으로 재구성하여 토큰 사용량과 비용을 약 50% 절감하고, 턴 수를 30% 줄였다. 에이전트가 대시보드와 동일한 정의를 참조하게 되면서 수치 불일치 문제가 근본적으로 해결됐다. 운영 측면에서는 dimension 변경 시 전 기간 재계산이 발생하므로 신중한 설계가 필요하며, 소비자가 자주 사용하는 필터 조건을 materialization에 포함해야 캐시 히트율을 높일 수 있다는 점을 확인했다.