구글, BigQuery 생성형 AI 함수에 토큰 기반 비용 관리 기능 정식 출시

구글이 BigQuery 생성형 AI 함수에 대한 토큰 기반 비용 관리 기능을 정식 출시했다. 이 기능을 통해 관리자는 AI.GENERATE, AI.CLASSIFY, AI.SCORE 등 LLM 기반 SQL 함수 사용 시 팀 예산을 초과하지 않도록 AI 토큰 소비량에 대한 일일 할당량을 설정할 수 있다.

할당량 구조 및 범위

Google Cloud Identity and Access Management (IAM) 할당량 시스템을 통해 프로젝트 및 사용자별 수준에서 네 가지 일일 할당량이 관리된다. 이 할당량은 전 지역 사용량을 합산하는 글로벌 방식으로, 예상치 못한 비용 누적을 방지한다. 특히 출력 할당량에는 'thinking' 토큰이 포함되어 Gemini 플랫폼 과금 기준과 일치한다.

| 할당량 이름 | 지표 | 범위 | 기본값 | | :--- | :--- | :--- | :--- | | AI 입력 토큰/일 | LLM이 사용한 입력 토큰 | 일별, 프로젝트별 | 2000억 | | AI 입력 토큰/일/사용자 | LLM이 사용한 입력 토큰 | 일별, 프로젝트별, 사용자별 | 1500억 | | AI 출력 토큰/일 | LLM이 사용한 출력 및 thinking 토큰 | 일별, 프로젝트별 | 200억 | | AI 출력 토큰/일/사용자 | LLM이 사용한 출력 및 thinking 토큰 | 일별, 프로젝트별, 사용자별 | 150억 |

적용 범위 및 강제 실행

할당량은 AI.GENERATE, AI.GENERATE_TABLE, AI.GENERATE_TEXT (및 ML.GENERATE_TEXT), AI.CLASSIFY, AI.IF, AI.SCORE, AI.AGG 등 LLM 기반 생성 함수에 적용된다. 더 저렴한 모델에서 실행되는 AI.GENERATE_EMBEDDING 및 AI.EMBED 같은 임베딩 함수는 제외된다.

강제 실행은 쿼리가 한도를 초과하도록 허용하지 않고 작업을 중단한다. 할당량이 소진되면 새로운 LLM 호출이 중단된다. max_error_ratio를 지원하는 함수는 부분 결과를 반환할 수 있으며, 범용 함수는 status 필드에 할당량 초과 오류가 표시된 생략된 행으로 성공 처리된다.

관리 및 크기 조정 도구

관리자는 Google Cloud 콘솔의 IAM & Admin → Quotas & System Limits 또는 Cloud Quotas API, gcloud CLI, Terraform을 통해 할당량을 조정할 수 있다. 한도 설정을 돕기 위해 AI.COUNT_TOKENS 함수는 생성 비용 없이 입력 토큰 수를 추정한다. 예를 들어, Gemini 3.1 Flash-Lite (배치 할인 적용)를 사용하여 일일 $100 지출을 목표로 하는 프로젝트는 입력 대 출력 비율을 100:1로 가정할 때 약 7억 5400만 입력 토큰 및 754만 출력 토큰으로 제한을 설정할 수 있다.